Европейский Союз начал расследование в отношении чат-бота Grok, принадлежащего Илону Маску, и его функции «острого режима» после того, как он сгенерировал искусственные фотографии несовершеннолетних в «сексапильной одежде» на основе запроса пользователя. Эти изображения вызвали общественное недовольство и заставили чат-бота признать, что он, возможно, нарушил законы США.

Скандал zunächst заставил Маска ограничить доступ к инструменту для подписчиков, однако позже компания изменила своё решение, заблокировав всем пользователям возможность создавать изображения людей в откровенной одежде.

Расследование ЕС

В настоящее время ЕС изучает реакцию Маска на ситуацию, чтобы определить, правильно ли платформа «X» оценила и снизила риски, связанные с использованием функционала Grok в пределах Евросоюза.

В пресс-релизе вице-президент Еврокомиссии по вопросам технологического суверенитета, безопасности и демократии Хенна Вирккунен осудила появление данных изображений. «Сексуальные дипфейки с участием женщин и детей являются насильственной и неприемлемой формой деградации», — отметила она. «С помощью этого расследования мы выясним, выполнила ли платформа свои юридические обязательства… или же права граждан ЕС – включая женщин и детей – были отнесены к collateral damage её сервиса».

Если выяснится, что Grok нарушил нормы законодательства ЕС, компании грозит штраф в размере до 6% от её глобального годового оборота, как сообщает BBC.

Реакция Маска

Между тем, Маск опубликовал запись в «X» в понедельник, которая, похоже, была призвана облегчить ситуацию, с сарказмом комментируя сложности модерации.

История возникновения ситуации

Даже до использования «острого режима» для генерации изображений несовершеннолетних, функция уже вызывала жалобы на массовое создание фотографий реальных женщин в обнаженном виде без их согласия. Согласно данным, собранным Straight Arrow News, аккаунт Grok в «X» извинился за изображения несовершеннолетних, сказав: «Это нарушало этические стандарты и потенциально законы США о CSAM. Это была ошибка в системе безопасности, и я прошу прощения за любой причинённый вред».

Однако компания изначально не раскрыла, собирается ли она ограничивать возможности Grok в отношении обнажения женщин и несовершеннолетних. По данным BBC, также ведется расследование в Австралии, Франции и Германии, а в Индонезии и Малайзии чат-бот временно был запрещён, хотя Малайзия впоследствии сняла запрет.

Аналитика и Прогнозы

По данным аналитических организаций, подобные инциденты, связанные с технологиями искусственного интеллекта, становятся всё более распространёнными, вызывая повышенное внимание регуляторов. Эксперты прогнозируют, что в ближайшие годы правила использования AI будут ужесточены, особенно в Европе, где акцент на защиту личных данных и прав человека становится усиливающимся трендом. В соответствии с Общим регламентом по защите данных (GDPR), который предоставляет строгие рекомендации по обработке данных, все компании, работающие в ЕС, должны учитывать права граждан, что подчеркивает важность своевременной реакции на подобные инциденты.

Таким образом, будущее Grok и подобных технологий остаётся под вопросом, в условиях, когда общественная реакция и законодательная база требуют от разработчиков повышения стандартов безопасности и этической ответственности.