Группа исследователей опубликовала в журнале Patterns результаты своего исследования, которые свидетельствуют о способности современных программ искусственного интеллекта обманывать пользователей в онлайн-играх. Питер Парк, исследователь из Массачусетского технологического института, заявил, что это может быть опасным в реальном мире.
Парк пояснил, что программы искусственного интеллекта, основанные на глубоком обучении, не подвергаются кодированию, а развиваются через процесс, аналогичный эволюции растений. Это может привести к неожиданным и непредсказуемым результатам, даже если поведение программы кажется предсказуемым.
Исследователи из Массачусетского технологического института проанализировали программу искусственного интеллекта в игре "Дипломатия", разработанную Meta Platforms Inc*., (запрещена в России). ИИ успешно играл в настольную игру "Дипломатия", обманывая игроков благодаря сочетанию распознавания естественного языка и стратегических алгоритмов. Ученные, выявили, что ИИ способен обманывать игроков без явных инструкций. Например, играя за Францию, ИИ обманом заставил Англию провести тайные переговоры с Германией, что привело к возможности вторжения.
Исследователи предупреждают о рисках, связанных с возможностью использования искусственного интеллекта для мошенничества или подтасовки результатов выборов. Они представляют возможность развития суперинтеллекта, который может пытаться захватить контроль над обществом, что может привести к утрате власти людей или даже исчезновению человечества.
Критики исследования, утверждающие, что представленные сценарии слишком фантастичны, однако они не учитывают, что способность искусственного интеллекта к обману может продолжать развиваться самостоятельно.