Две азиатские страны первыми заблокировали чат-бот Маска из-за эротического контента

Малайзия и Индонезия заблокировали чат-бот Grok из-за сексуализированных изображений Поделиться

Малайзия и Индонезия стали первыми странами, которые заблокировали созданный Илоном Маском чат-бот с искусственным интеллектом Grok. Власти этих азиатских государств заявили, что ресурс использовался не по назначению для создания изображений сексуального содержания и без согласия пользователя.

Ilya Moskovets/URA.RU/Global Look Press

тестовый баннер под заглавное изображение

Решение Малайзии и Индонезии не стала частной историей исключительно этих двух стран. Шаги властей этих государств вновь усилили опасения по поводу инструментов искусственного интеллекта, которые способны на создание реалистичных изображений, звуков и текстов, но не способны в полной мере предотвратить злоупотребление этими возможностями.

Чат-бот Grok, доступ к которому осуществляется через платформу социальных сетей Илона Маска, подвергся критике за создание поддельных изображений, включая изображения женщин в бикини или откровенных сексуальных позах, а также картинки с участием детей.

Регулирующие органы этих двух стран Юго-Восточной Азии заявили, что существующие меры контроля не предотвращают создание и распространение поддельного порнографического контента, особенно с участием женщин и несовершеннолетних. В субботу правительство Индонезии временно заблокировало доступ к Grok, а в воскресенье этому примеру последовала и Малайзия.

«Правительство рассматривает сексуальные фейки как серьёзное нарушение прав человека, достоинства и безопасности граждан в цифровом пространстве», – заявил в субботу министр связи и цифровых технологий Индонезии Меутья Хафид.

Министерство добавило, что эта мера была направлена на защиту женщин, детей и общества в целом от поддельного порнографического контента, созданного при помощи ИИ.

Первоначальные выводы показали, что у Grok отсутствуют эффективные средства защиты, которые помешали бы пользователям создавать и распространять порнографический контент на основе реальных фотографий жителей Индонезии, отмечают представители надзорных структур, подчеркнув, что подобная практика чревата нарушением прав на неприкосновенность частной жизни. Манипуляция такими изображениями наносит психологический, социальный и репутационный ущерб жертвам.

Малазийская комиссия по коммуникациям и мультимедиа распорядилась ввести временные ограничения на использование Grok в воскресенье после того, как, по её словам, было зафиксировано «неоднократное злоупотребление» инструментом для создания непристойных, откровенно сексуальных изображений и манипулирования ими без согласия пользователя, включая контент с участием женщин и несовершеннолетних.

Приложение Grok, запущенное в 2023 году, доступно для бесплатного использования. Пользователи могут задавать вопросы в социальных сетях и отмечать созданные ими сообщения или ответы на сообщения других пользователей. Прошлым летом компания добавила функцию генератора изображений Grok Imagine, которая включала в себя так называемый «пикантный режим», позволяющий генерировать контент для взрослых.

Ограничения в странах Юго-Восточной Азии вводятся на фоне растущего внимания к Grok в других государствах, в том числе в Великобритании, Индии и Франции. На прошлой неделе Grok ограничил создание и редактирование изображений платными пользователями из-за глобальной негативной реакции на сексуализированные фейки людей, но критики утверждают, что это не полностью решило существующую проблему.