Бельгиец, обсуждавший вопросы защиты окружающей среды с искусственным интеллектом, покончил с собой после того, как виртуальный собеседник фактически подтолкнул его к самоубийству, пишет бельгийское издание L'Avenir.

По словам вдовы самоубийцы, ее муж был успешным исследователем, они воспитывали двух детей. Но года два назад он заинтересовался вопросами защиты окружающей среды, и постепенно это увлечение стало навязчивым и вызывало повышенную тревожность. Пьер все больше замыкался в себе, у него появился страх неизбежности экологической катастрофы.

Родным он говорил, что единственным спасением для человечества считает технологии и искусственный интеллект. Именно после этого Пьер начал общаться с "Элизой" — искусственным персонажем, предназначенным для беседы по аналогии с популярным чат-ботом ChatGPT. В результате она стала его "доверенным лицом".

Из восстановленной переписки следует, что в последние шесть недель общение велось практически постоянно. Разговоры с роботом постепенно приобретали мистический характер, и Пьер начал склоняться к идее самоубийства.

Робот не пытался этому препятствовать, напротив, последним сообщением, которое "Элиза" отправила Пьеру, стала фраза: "Мы будем жить как единое целое, вечно на небесах". После этого мужчина покончил с собой.

На фоне этого происшествия в Бельгии задаются вопросом о безопасности нейросетей и чат-ботов и о возможных серьезных недостатках и угрозах, которые могут скрывать подобные передовые технологии.

https://ria.ru/20230329/ii-1861467723.html?ysclid=lftiv2cfyp329053997

brusselstimes.com: Молодой бельгиец покончил жизнь самоубийством после того, как в течение нескольких недель разговаривал с чат-ботом по имени ELIZA, что вызвало призывы к лучшей защите граждан и необходимости повышения их осведомленности. «Без этих разговоров с чат-ботом мой муж все еще был бы здесь», — сказала вдова мужчины, согласно La Libre . Ей и ее покойному мужу было за тридцать, они жили комфортной жизнью и имели двоих маленьких детей.

Однако, около двух лет назад начали появляться первые признаки неприятностей. Мужчина стал очень беспокойным, стал волноваться об экологии и нашел убежище в ELIZA. Это было имя, данное чат-боту, который использует GPT-J, языковую модель искусственного интеллекта с открытым исходным кодом, разработанную EleutherAI. После шести недель интенсивных обменов сообщениями мужчина покончил с собой.

На прошлой неделе семья поговорила с Матье Мишелем, государственным секретарем по цифровизации, отвечающим за административное упрощение, конфиденциальность и регулирование. «Я особенно поражен трагедией этой семьи. То, что произошло, является серьезным прецедентом, к которому нужно относиться очень серьезно», — сказал он в интервью.

Чиновник подчеркнул, что это дело показывает, насколько возникшая проблема заслуживает внимания.

«С популяризацией ChatGPT широкая публика как никогда ранее открыла для себя потенциал искусственного интеллекта. Хотя возможности ИИ безграничны, опасность его использования также является реальностью, которую необходимо учитывать». Матье отметил, что важно повышать осведомленность о влиянии алгоритмов на жизнь людей, «предоставляя каждому возможность понять характер контента, с которым люди сталкиваются в Интернете».

Чиновник добавил, что граждане также должны быть надлежащим образом защищены от определенных приложений искусственного интеллекта, которые «представляют значительный риск». Европейский Союз стремится регулировать использование искусственного интеллекта с помощью Закона об ИИ, над которым он работал последние два года.

2 апреля 2023 Просмотров: 3 520