Новая угроза – манипуляции искусственного интеллекта
- Понедельник Январь 6th, 2025 17:40
Новая угроза – манипуляции искусственного интеллекта. Фото Pixabay
Исследователи Кембриджского университета предупредили в статье, опубликованной в понедельник, что разговорные инструменты искусственного интеллекта вскоре смогут «скрыто влиять» на решения потребителей в новом коммерческом пространстве, называемом «экономикой намерений».
В исследовании говорится, что потенциально «прибыльный, но вызывающий беспокойство» рынок так называемых «цифровых сигналов о намерениях» в ближайшем будущем может оказывать влияние на все: от покупки билетов в кино до голосования за политических кандидатов.
Исследователи отмечают, что растущая популярность чат-ботов, цифровых репетиторов и других так называемых «антропоморфных» агентов ИИ способствует созданию нового вида «технологий убеждения».
В будущем ИИ объединит знания о наших онлайн-привычках с растущей способностью узнавать пользователя и предугадывать его желания, создавая «новый уровень доверия и понимания», отмечают два соавтора статьи.
Исследователи из Кембриджского центра Леверхалма по изучению будущего интеллекта (LCFI) утверждают в статье, опубликованной в журнале «Harvard Data Science Review», что если оставить ситуацию без контроля, она может открыть путь к «социальной манипуляции в промышленных масштабах».
В статье описывается, как этот новый сектор, называемый «экономикой намерений», будет формировать профили внимания и стили общения потребителей и связывать их с их поведенческими моделями и выбором.
«Уже сейчас разрабатываются инструменты ИИ, которые извлекают информацию и делают выводы, собирают, регистрируют, понимают, прогнозируют и, в конечном итоге, манипулируют человеческими планами и целями, превращая их в товар», – сказал один из авторов Якуб Чаудхари.
Согласно исследованию, новый ИИ будет основан на так называемых больших языковых моделях, которые помогут оценить речь пользователя, его политические взгляды, словарный запас, возраст, пол, онлайн-историю и даже желания услышать похвалу или что-то приятное.
Это будет связано с другими новыми технологиями ИИ, которые попытаются достичь определенных целей, например, продать билет в кино или направить разговоры на определенные платформы, к рекламщикам, компаниям или даже политическим организациям.
«Если эти вещи не регулировать, экономика намерений будет манипулировать вашей мотивацией словно новая валюта», – сказал соавтор исследования Джонни Пенн.
«Это станет настоящей золотой жилой для тех, кто нацелен на намерения людей, стремясь их направить и продать», – добавил он.
«Нам следует начать учитывать влияние такого рынка на человеческие устремления, включая свободные и справедливые выборы, свободную прессу и честную рыночную конкуренцию, прежде чем мы станем жертвами ее непредусмотренных последствий».
Д. Пенн отметил, что осведомленность общественности по этому вопросу «необходима, чтобы мы не пошли по ошибочному пути».
Партнеры
MRF
Projektui „Mano Lietuva“ 2025 m. skirtas 15 000 Eur dalinis finansavimas.