Новости
Искусственный интеллект научился манипулировать нашими решениями
Искусственный интеллект может быть не только ценным помощником, но и опасным врагом.В недобрых руках искусственный интеллект может стать средством манипуляции.
Специалисты создали систему искусственного интеллекта, которая манипулирует человеком, подталкивая его к тому или иному выбору. Этот ИИ показал свою эффективность. Правда, пока он управляет лишь решениями игроков в специальные игры, но кто знает, куда подобные исследования могут завести в будущем?
Разработка описана в научной статье, опубликованной в журнале PNAS учёными из Государственного объединения научных и прикладных исследований в Австралии (CSIRO) и Института биологической кибернетики Общества имени Макса Планка в Германии.
Люди ежедневно пытаются влиять на выбор, который делают другие люди. Политики убеждают избирателей, что уж они-то точно приведут страну к процветанию. Маркетологи внушают потребителям, что для счастья в жизни им остро не хватает шоколадного батончика или поездки на край света. Кавалер уговаривает спутницу остаться с ним этим прекрасным вечером.
Как у нас получается влиять на других? На этот интересный вопрос нет точного ответа. Ведь человек может научиться многим вещам интуитивно, толком не понимая, как он это делает. Наш мозг выводит из опыта правила, которые остаются загадкой для нас самих. Практика делает из человека умелого оратора, искусного обольстителя или ловкого мошенника лучше, чем любые пошаговые инструкции.
Между тем механизмы обучения искусственной нейронной сети напоминают работу мозга (правда, лишь в самых общих чертах). Поэтому искусственный интеллект тоже славится умением справляться с задачами, не имеющими чёткого алгоритма решения.
А может ли искусственный интеллект научиться манипулировать человеком разумным? Новое исследование даёт на этот вопрос однозначный и весьма тревожный ответ: да, может.
Авторы разработали систему искусственного интеллекта, которая наблюдает за тем, как люди делают выбор, и учится манипулировать этим выбором. Учёные испытали её в трёх экспериментах.
