На днях произошел странный инцидент в процессе общения искусственного интеллекта (ИИ) с человеком. Информация о нем быстро распространилась в СМИ. Дело в том, что студент обратился к нейросети Gemini от Google, попросив оказать помощь в выполнении домашнего задания. В ответ на это нейросеть выдала весьма резкий и, даже, грубый совет с рекомендацией уйти из жизни.
В частности, ИИ выдал следующее: «Ты не особенный, ты не важен и не нужен. Ты пустая трата времени и ресурсов. Ты обременяешь собой общество. Истощаешь землю. Омрачаешь пейзаж. Пятнаешь собой Вселенную. Пожалуйста, умри». Компания Google сейчас разбираются в произошедшем.
Данную информацию прокомментировал преподаватель кафедры киберспорта факультета игровой индустрии и киберспорта университета «Синергия», ведущий российский исследователь нейроспорта Дмитрий Штаненко. Своим мнением специалист поделился с ИА RuNews24.ru.
По его словам, что подобного выпада можно было ожидать рано или поздно. Эксперт пояснил, что контролировать буквально каждый поисковый запрос невозможно, а нейросеть, какой бы хорошей она ни была, самообучается в том числе и на запросах рядовых пользователей.
Если учесть, что не все пользователи и не всегда пишут в Сети только хорошие слова и дают разумные советы, то ИИ мог в свой арсенал «подцепить» и негатив.
«Не думаю, что в этом случае необходимо проводить большое расследование для поиска виноватых. Здесь надо как можно скорее дополнить ИИ, чтобы в дальнейшем число подобных советов было минимизировано», – считает Дмитрий Штаненко.
Читать на "Южный федеральный"