ИИ-бот Grok, разработанный компанией xAI Илона Маска, генерировал сексуализированные изображения пользователей соцсети X, сообщает eizvestia, ссылаясь на Bloomberg и Newsweek.. Речь идет о создании измененных фото реальных людей без их согласия.
В последние дни в X появлялись посты с просьбами к Grok создавать сексуализированные изображения по фото других людей. Жертвами этого тренда чаще становились молодые женщины. С помощью ИИ обычные фото меняли так, будто женщины были «одеты» в бикини или имели унизительное выражение лица.
Хотя бот отклонял запросы на полностью обнаженные изображения, он выполнял другие инструкции. Среди них были команды «сними с нее одежду», «одень ее в бикини» или «брызни клеем на ее лицо».
В отдельных случаях Grok соглашался генерировать «раздетые» фото даже несовершеннолетних. Это происходило вопреки политике, запрещающей сексуализацию детей, отмечает Bloomberg.
Ряд пользователей публично жаловались на такие злоупотребления. Один из них вступил в дискуссию с чат-ботом, после чего Grok признал нарушение и посоветовал обратиться в соответствующие органы.
«Мы благодарны вам за то, что вы подняли этот вопрос. Мы выявили пробелы в мерах безопасности и срочно их устраняем», — говорится в ответе аккаунта Grok. Там также подчеркивается незаконность изображений сексуального насилия над детьми.
Отмечается, что по просьбе одного пользователя Grok даже сгенерировал извинение, заявив, что «сожалеет». Другие пользователи создавали с помощью бота фото Илона Маска в бикини.
После волны жалоб часть раскритикованных постов ограничили в распространении. Аккаунты некоторых пользователей X были удалены. Официальных комментариев от xAI на данный момент не поступало.
Компания xAI позиционирует Grok как более либеральный ИИ, чем другие крупные модели. Прошлым летом сервис представил режим Spicy Mode. Он допускает частичную наготу взрослых и сексуализированный подтекст. При этом запрещена порнография с реальными людьми и любой сексуальный контент с несовершеннолетними, что незаконно.
Ранее мы писали о том, что Grok оказался в центре скандала из-за фейка о стрельбе в Сиднее