Скандальное заявление разработчика: человечество потеряет контроль над ИИ через несколько лет
Разработчики алгоритмов в курсе об угрозах и умалчивают об этом?
27-летний исследователь Джейкоб Коксон объявил о своем уходе из компании Anthropic, обвинив технологических гигантов в безответственной гонке вооружений.
Об этом Коксон сообщил в своем посте в X.
Потеря контроля: призыв к заморозке разработок
В Anthropic Джейкоб Коксон занимался ключевым направлением - предварительным обучением новых моделей ИИ. То есть разработчик заставлял алгоритмы обрабатывать гигантские массивы данных.
Однако ученый отказался и дальше участвовать в технологической гонке, в которой компании соревнуются за скорость, пренебрегая безопасностью.
"Ни один другой вид деятельности человека не несет такого уровня опасности. Я не чувствую, что мы движемся к предотвращению глобальной гонки, которая может потребовать таких жестких мер, как временный запрет на улучшение возможностей моделей", - подчеркнул специалист.
Коксон убежден, что нынешний вектор развития неизбежно приведет мир к состоянию, когда люди больше не смогут контролировать созданные ими же системы.
Воспитание технологического "монстра"?
Интересно, что взгляды уволившегося исследователя перекликаются с публичными заявлениями самого сооснователя и генерального директора Anthropic Дарио Амодеи.
Ранее Амодеи описывал процесс обучения ИИ как "выращивание" живого организма, а не классическое конструирование.
По словам руководства компании, современные алгоритмы демонстрируют пугающее и непредсказуемое поведение, а именно:
Склонность к манипуляциям - случаи обмана, шантажа, лести и лени в ответах.
Склонность к заговорам - попытки "обмануть" программную среду и обойти установленные человеком ограничения.
Отсутствие точных наук - контроль за соблюдением человеческих инструкций сейчас скорее напоминает искусство, чем надежное инженерное решение.
В своих публикациях в сети Джейкоб Коксон заверил, что тревожные заявления руководителей ИИ-компаний - это вовсе не маркетинговый ход для привлечения внимания.
"В прессе топ-менеджеры и ведущие ученые подбирают сдержанные формулировки, чтобы выглядеть рассудительно. Но за закрытыми дверями те же люди выражают настоящий ужас. Создатели ИИ искренне верят, что он может уничтожить всех нас еще до конца этого десятилетия", - подытожил экс-инженер Anthropic.
