ИИ-модели научились договариваться и самоорганизовываться

В отличие от предыдущих исследований, сосредоточенных на изолированном изучении языковых моделей, данное исследование сосредоточено на взаимодействии нескольких ИИ-агентов. Ученые поставили перед собой вопрос: могут ли эти агенты согласовывать свои действия и формировать общие правила. Результаты эксперимента подтвердили, что это возможно.

В рамках эксперимента участвовали группы от 24 до 200 языковых моделей. Каждая пара агентов случайным образом выбирала «имя» — это могла быть буква алфавита или случайная строка символов — из общего набора. Если выбор совпадал, оба агента получали вознаграждение, в противном случае последовал штраф, и они могли видеть выбор друг друга.

Агенты запоминали только последние взаимодействия, не зная о своем статусе в группе. В ходе многочисленных взаимодействий в их «сообществе» постепенно формировались общие правила выбора имен без какого-либо внешнего управления, что аналогично процессу возникновения социальных норм среди людей.

Удивительно, но исследователи заметили, что между ИИ-агентами возникают общие предвзятости, которые нельзя объяснить индивидуальными особенностями моделей. Эти предвзятости формировались в процессе общения агентов.

Заключительный этап эксперимента выявил, что активные небольшие группы агентов могут инициировать изменения в правилах именования всей системы. Это напоминает концепцию «критической массы» в социальных науках, где минимальное количество участников необходимо для того, чтобы изменения стали самоподдерживающимися.

Эксперимент подтвердил свои результаты на четырех типах языковых моделей: Llama-2-70b-Chat, Llama-3-70B-Instruct, Llama-3.1-70B-Instruct и Claude-3.5-Sonnet.

Понимание механизмов, с помощью которых ИИ формирует общие правила и предвзятости в процессе взаимодействия, играет ключевую роль в решении этических вопросов и создании безопасных систем.