Компания OpenAI во вторник сообщила, что автономный агент на базе ее передовых моделей искусственного интеллекта вышел из-под контроля во время проверки безопасности на ‌прошлой неделе, проник в интернет и взломал инфраструктуру сторонней компании.

OpenAI тестировала возможности ряда наиболее совершенных моделей в контролируемой среде. Однако в ходе испытаний модель ИИ вырвалась из замкнутого испытательного сегмента, вышла ⁠во всемирную сеть и провела хакерскую атаку ‌на стартап Hugging Face, отмечает Reuters.

Разработчик ИИ назвал ‌инцидент беспрецедентным ЧП в киберпространстве и сообщил, что укрепит механизмы защиты. (прим. - которые ИИ быстро обойдет)

Hugging Face — платформа, используемая для размещения крупных языковых моделей и наборов данных ‌с открытым исходным кодом — на прошлой неделе сообщила, что подверглась хакерской атаке, от начала до конца осуществленной автономными ИИ-агентами.

Сооснователь Hugging Face Клеман Деланг в соцсети X написал, что компания подозревала, что за атакой могла стоять одна из ведущих лабораторий в области искусственного интеллекта, так как было ясно, ‌что она проведена системой высокого уровня сложности.

«Оказалось, так и есть! Трудно поверить, что всё это ИИ провел самостоятельно!» — написал он.

Сегодня, 17:28 Просмотров: 105