Доктор биологических наук, директор Института когнитивных исследований Санкт-Петербургского государственного университета Татьяна Черниговская на одной из сессий Петербургского международного экономического форума дала всем совет: не допустить восстания нейросетей против человечества. Она пояснила, почему «подсказка» из «Тараса Бульбы» с ИИ уже не сработает.
Татьяна Черниговская считает, что общество уже не может избежать массового внедрения искусственного интеллекта, пишет «КП». И необходимо понимать, как мыслит ИИ и что с этим делать.
Эксперт отметила, что не все разработчики ИИ сейчас могут ответить на вопрос: «А вы понимаете, что происходит?». Говорят: «Не уверен». И это не игрушка. Черниговская вспоминает знаменитую цитату Гоголя: «Я тебя породил, я тебя и убью». И сегодня, по ее словам, данный тезис уже не работает. Создатель не может убить свое творение.
Один из главных рисков в том, что люди не понимают, какие процессы идут внутри нейронных сетей. Это первое. А второе — в какой-то момент нейросети вдруг решат развиваться не по просчитанным людьми алгоритмам.
И что тогда будет? Нейросети могут просто выйти из-под контроля.
«Если представить себе, что я была бы очень высокого уровня нейросетью, вот что бы я сделала? Я бы вообще ничего не делала, кроме одного, я бы придумала, как сделать так, чтобы меня не могли отключить», — заключает Татьяна Черниговская.
Но избавляться от нейросетей ученый все же не советует, а лишь рекомендует разработчикам ИИ не давать им слишком много свободы.
Фраза «Я тебя породил, я тебя и убью!» принадлежит Николаю Гоголю и звучит в повести «Тарас Бульба» (1835 год, входит в книгу «Миргород»).
С этими словами главный герой Тарас Бульба обращается к своему сыну Андрею. Андрей влюбился в полячку и перешел на сторону врага. Для Тараса Бульбы это было позором, и он не смог простить этого даже своему родному сыну. За что и убил его.