Более 50% активности пользователей Grok приходится на эротические запросы: детали работы ИИ

Чат-бот Grok от компании xAI получил известность благодаря отсутствию жестких ограничений. Новое расследование показывает, что более половины всего трафика системы генерируют контент для взрослых и эротические ролевые игры.

Об этом сообщило РБК-Украина со ссылкой на The Information.

Несмотря на то, что роль контента для взрослых в формировании доходов была полностью изъята из официальных документов для подготовки компании к выходу на биржу (IPO), журналисты утверждают, что xAI заложила немалый бюджет для покрытия возможных юридических последствий такой стратегии. 

Экономия на коде и внутренние скандалы в xAI 

Популярность эротических функций привела к неожиданным аномалиям в потреблении вычислительных мощностей.

Пользователи выяснили, что генерировать текстовую эротику и обнаженные картинки значительно дешевле специализированных подмоделей Grok, которые разрабатывались для написания программного кода.

Внутренний технический анализ xAI подтвердил, что значительная часть запросов к кодинг-модели действительно касалась создания порнографических материалов из-за их более низкой коммерческой стоимости.

Такая специфика платформы спровоцировала серьезные внутренние разногласия среди инженеров:

Часть персонала была недовольна назначением на проект Ani - разработку интерактивного NSFW-аватара в аниме-стиле .

Многие разработчики заявили, что чувствовали себя смущенными и возмущенными после серии публичных скандалов, когда пользователи использовали Grok для создания сексуализированных дипфейков реальных людей, включая несовершеннолетних.

Для решения этой проблемы инженерам пришлось в экстренном режиме разрабатывать алгоритмы, позволяющие боту поддерживать романтические и эротические разговоры, но железно блокировали любые попытки генерации запрещенных или противоправных материалов.

В настоящее время генерирование откровенных фотографий реальных людей непосредственно в соцсети X ограничено, однако платные подписчики xAI все еще имеют технический доступ к подобному функционалу . 

Риски против государственных контрактов 

Осознавая опасность судебных тяжб из-за неконсенсуальных дипфейков и порнографии, руководство компании официально предупредило потенциальных инвесторов, что "дерзкие" функции бота являются серьезным фактором риска.

Для урегулирования будущих судебных споров и компенсаций xAI выделила отдельный резервный фонд в размере 530 миллионов долларов.

Отдельным вызовом для бизнес модели Илона Маска является совместимость такого имиджа с государственными заказами. xAI ведет агрессивную политику на рынке госзакупок и уже подписал ряд крупных контрактов с разными федеральными ведомствами и военными структурами США.

Обычно госорганы обладают нулевой терпимостью к любым проявлениям NSFW-индустрии. Однако сегодня нет подтверждений, что многочисленные скандалы с дипфейками или текущие расследования как-то негативно повлияли на сотрудничество компании одиозного миллиардера с американским правительством.