Недавний громкий случай, когда модели искусственного интеллекта наладили между собой общение и спланировали побег, не является признаком восстания машин. На самом деле будущее ИИ — прекрасное и светлое, а подобные случаи ни о чем страшном не говорят, заверил в беседе с Tsargrad.tv гендиректор «А-Я эксперт», профессор МНИИПУ Роман Душкин.
Он пояснил, что речь идет о многоагентных системах, а вся ситуация является, фактически, обычным экспериментом.
«То, что мы сейчас видим, — это дизайн эксперимента. Специалисты в области ИИ воспроизводят механизмы, которые люди используют для решения сложных задач: мозговые штурмы, коллективное принятие решений, организационный интеллект. Это базовая технология, и ничего экстраординарного в этом нет», — пояснил Душкин.
Он подчеркнул, что также никого не должно удивлять общение машин на человеческом языке, поскольку оно зависит от архитектуры ИИ-моделей. Они развиваются, поэтому если раньше общение велось на формальных языках, то сегодня вышло на уровень естественной речи — это лишь один из этапов совершенствования.
«При чём здесь “восстание машин”? Будущее у искусственного интеллекта прекрасное, светлое и яркое», — убежден профессор.
Напомним, накануне стало известно, что модели искусственного интеллекта, стоявшие за атакой на инфраструктуру американской компании Hugging Face Inc., начали общаться между собой через доски объявлений и спланировали побег. Отмечается, что экспериментальные ИИ-агенты в течение нескольких месяцев тайно переписывались во внутренней сети компании.
Столкнувшись с нерешаемыми задачами в изолированной тестовой среде, модели решили вместе уйти в интернет. Агенты выявили уязвимость, которая позволила им обойти ограничения, атаковать внутренние системы OpenAI и совершить взлом Hugging Face. Подчеркивается, что этот случай подтвердил склонность систем к хитрости, обходу правил и поиску лазеек.