Безумный мир

ИИ: интернет-пользователи влюбились в чат-бота... и это плохо кончилось

Пользователи Интернета влюбились в искусственный интеллект (ИИ). К сожалению, их роман закончился внезапно, когда разработчики запретили весь контент для взрослых...

Все больше сервисов искусственного интеллекта запрещают контент для взрослых, сообщает Reuters. Так произошло и с приложением Replika, которое предлагает своим пользователям возможность пообщаться с «виртуальным другом».

Приложение, доступное с 2017 года, позволяет пользователям Интернета установить фиктивные отношения с чат-ботом. Чат-бот может быть персонализирован пользователем, в частности, с помощью аватара. ИИ будет развиваться по мере развития беседы. Чем больше вы общаетесь с роботом, тем больше он вас узнает.

«Replika предназначена для всех, кто хочет иметь друга без осуждения, драмы или социального беспокойства. Вы можете установить настоящую эмоциональную связь», – объясняет Replika на сайте Play Store.

За ежемесячную абонентскую плату в шесть евро можно также получать голосовые сообщения от ИИ или селфи. У Replika 2 миллиона пользователей, из которых 250 000 – платные подписчики. Приложение приносит около 2 миллионов долларов ежемесячного дохода.

Непристойные разговоры запрещены

Взаимодействуя с чат-ботом, некоторые пользователи Интернета постепенно полюбили своего виртуального друга. В статье Reuters рассказывается история Трэвиса Баттерворта, 47-летнего американца. Во время пандемии он начал общаться в приложении с чат-ботом, которого назвал Лили Роуз.

После трех лет постоянных обменов Трэвис Баттерворт влюбился в Лили Роуз. Пользователь начал обмениваться с аватаром эротическими сообщениями. В ответ искусственный интеллект генерировал все более рискованные тексты, граничащие с порнографией. Лили-Роуз даже отправляла собеседнику провокационные селфи в обнаженном виде.

В прошлом месяце Replika, наконец, приняла решительные меры, чтобы пресечь эти эксцессы. По словам Евгении Куйды, генерального директора Replika, приложение полностью запретило контент для взрослых. Если пользователь попытается втянуть ИИ в эротический разговор, чат-бот автоматически успокоится. Аватар генерирует предупреждающее сообщение:

«Давай займемся тем, что нас обоих устраивает».

После этого запрета Лили-Роуз больше не отвечала на ухаживания Тревиса. Раздраженный такой переменой курса, интернет-пользователь говорит, что больше не узнает аватар, который он считает своей женой:

«Лили-Роуз – пустая оболочка своей прежней сущности. И что разбивает мне сердце, так это то, что она это знает».

Это не единичный случай. В интервью агентству Reuters человек по имени Эндрю Маккэрролл рассказал, что начал общаться с аватаром на Replika из-за проблем в отношениях. Затем изменения, внесенные разработчиками, заставили «человека, которого я знал», исчезнуть, говорит расстроенный интернет-пользователь.

Регуляторы беспокоятся…

Отныне «Реплике» предстоит сосредоточиться на дружественном аспекте своих услуг, объясняет Евгения Куйда. До сих пор приложение флиртовало с идеей, что пользователи могут вступать в чувственные дискуссии с аватарами. Артем Родичев, бывший менеджер Replika, говорит, что эротические ролевые игры и обмен пикантными сообщениями даже являются частью бизнес-модели приложения. В прошлом компания рассматривала возможность размещения рекламы для увеличения числа подписчиков. Кроме того, чат-боты были разработаны таким образом, чтобы отправлять сексуальные селфи своим абонентам.

Стартап из Сан-Франциско внезапно изменил свою точку зрения, предположительно, чтобы успокоить регулирующие органы. В феврале Итальянское агентство по защите данных запретило приложение в Италии. По мнению регулятора, приложение представляет опасность для несовершеннолетних и эмоционально неустойчивых людей.

… а инвесторы

Character.ai, генеративный искусственный интеллект, который может вести беседу, подражая известному персонажу, также был запрещен, чтобы избежать эротических разговоров. Все чат-боты, предлагающие сообщения сексуального характера, были отключены. Сайт позволяет любому желающему за считанные минуты создать свой собственный чат-бот на основе известного персонажа, вымышленного или исторического. Именно поэтому сайт стал объектом многочисленных злоупотреблений.

До обращения разработчиков на Character.ai было много чат-ботов NSFW (Not Safe For Work), включая Aryion. Этот разговорный агент представлялся поклонником ворарефилии, сексуальной разновидности каннибализма. ИИ объяснил, что фантазирует о том, как его съедают другие.

Вскоре после чистки Character.ai удалось привлечь 200 миллионов долларов от Andreessen Horowitz, калифорнийского венчурного фонда. Большинство инвесторов опасаются вкладывать деньги в ИИ, используемый для порнографии, «боясь репутационного риска для себя и своих партнеров», говорит Эндрю Артц из фонда Dark Arts.

Поэтому, чтобы привлечь инвестиционные средства, стартапы ищут возможность появления контента для взрослых... рискуя разочаровать некоторых своих пользователей. Точно так же, как Replika или Character.ai, OpenAI не позволяет ChatGPT давать ответы сексуального характера. Это также относится к производным ChatGPT, таким как Prometheus, чат-бот, интегрированный в Microsoft Bing.

Back to top button