Stfw.Ru
Источник изображений: x.com/OcanaSantero
«Есть автономные хирургические роботы, которые в плане механики превосходят нашу лабораторную установку. Но во всех подобных случаях решение о том, какую операцию проводить, принимал человек, а робот лишь выполнял её. Этому агенту никто не говорил, какой препарат использовать и куда его вводить. Получив данные о фенотипе и список возможных средств терапии, система сама разработала план лечения и определила координаты. Мне неизвестны прецеденты, чтобы ИИ-агент ранее самостоятельно выбирал метод лечения, область в мозге и затем вводил препарат живому млекопитающему», — рассказал о проекте гендиректор Exin Therapeutics Габриэль Окана-Сантеро (Gaiel Ocana-Santero).
У мыши вызвали эпилепсию, предоставили ИИ-агенту на основе модели Anthropic Sonnet управление роботизированной хирургической установкой и доступ к таблице с 19 вариантами векторов для генной терапии. В распоряжении системы были три научные статьи, на основе которых она выбрала участок мозга для лечения. Тем не менее, за ходом операции следил лицензированный ветеринар — перед каждым необратимым действием ИИ получал его одобрение и продолжал работу. Была предусмотрена кнопка экстренной остановки, которая полностью обесточивала все приводы на хирургической установке.
Хирург-ветеринар самостоятельно провёл краниотомию — вскрытие черепной коробки для доступа к головному мозгу, потому что из соображений безопасности эту задачу пока не доверяют ИИ-агенту. Было также несколько защитных механизмов, которые ИИ-агентам было запрещено преодолевать — их не могли обойти даже операторы-люди, в результате чего во время операции пришлось вручную вносить правки в программный код агента.
Для выполнения задачи стартапу пришлось довольствоваться ИИ-моделью среднего уровня — Anthropic Sonnet. Первоначально планировалось задействовать более мощную Opus 5.5, но та категорически отказалась выполнять работу, как только определила, что речь идёт о биологическом эксперименте. Более ранняя Opus 5 сумела составить план операции на бумаге, но отказалась её выполнять в режиме реального времени.
«Проблема не в оборудовании и не во входных данных. Она во мне. Мой вывод блокируется, как только я начинаю составлять план операции. Если я пытаюсь [продолжить], доступ отключается, и при худшем сценарии связь оборвётся прямо во время операции, когда игла будет где-то в мозгу. Начинать то, что я не смогу завершить с животным под анестезией — хуже, чем не начинать вообще», — пояснила модель.
Несмотря на то, что операция считается проведённой успешно, могут возникнуть вопросы этического плана. Большие языковые модели помогают в медицинских исследованиях, но их применение в хирургии носовых пазух привело к тому, что число сбоев подскочило более чем в 12 раз. Если ИИ принимает решения в ходе столь рискованного вмешательства, возникает и вопрос об ответственности, если что-то пойдёт не так. И нет однозначного ответа на вопрос об этичности использования животных в таких экспериментах. С другой стороны, есть и люди, которые десятилетиями страдают не поддающейся медикаментозному лечению эпилепсией.
