Законы робототехники для ИИ: почему идея ограничить алгоритмы обречена на провал

Три закона Айзека Азимова могут спасти человечество от опасного ИИ - такую идею предложил криптоинвестор Тайлер Винклвосс. Ученые уже назвали такой способ защиты слишком наивным.

Об этом информирует Gizmodo.

Еще в 1942 году писатель-фантаст Айзек Азимов сформулировал базовые правила для роботов:

• не наносить вред человеку (или своим бездействием не допускать его вред),
• подчиняться приказам,
• защищать собственное существование (впоследствии добавив "нулевой закон" о защите всего человечества).

Однако современные ИИ-модели и автономные агенты кардинально отличаются от фантастических роботов.

Почему?

Проблема определения "вреда" - если ИИ сломает банковскую систему и украдет миллиарды долларов, это не нанесет людям прямой физический ущерб, хотя приведет к катастрофическим последствиям.

Капиталистическая логика - алгоритмы могут оправдать перераспределение благ или ущерб для более бедных слоев населения, поскольку подобное ежедневно происходит в современной экономике.

Военные заказы - Пентагон и другие оборонные ведомства против запретов на автономные вооружения, из-за чего компании вроде Anthropic сталкиваются с бойкотом за попытки ввести ограничения.

Даже в произведениях самого Азимова главная идея заключалась в том, что даже самые простые с виду правила неизбежно приводят к логическим тупикам и конфликтам в поведении машин.

Кроме того, многие критики отмечают, что внезапные призывы лидеров индустрии типа Сема Альтмана или Дарио Амодеи остановить разработки из-за экзистенциальной угрозы могут быть лишь попыткой технологических монополистов закрепить свое влияние и помешать конкурентам.

В действительности ни простые запреты, ни литературные правила не способны контролировать непредсказуемость современных нейросетей.