На прошлой неделе появилась история о директоре средней школы в Мэриленде, которого отправили в отпуск после того, как появилась аудиозапись его расистских и антисемитских комментариев. Единственная проблема: на записи был не он, а AI-версия его голоса.

Согласно протоколам суда, детективы попросили сторонних экспертов проанализировать запись, и на пресс-конференции в прошлый четверг начальник полиции заявил, что действительно было установлено, что запись была создана с использованием технологии искусственного интеллекта.

Спортивный директор средней школы сейчас находится под стражей, и ему предъявлены уголовные обвинения после того, как полиция заявила, что он использовал искусственный интеллект для дублирования голоса директора, в результате чего сообщество поверило, что директор делал расистские и антисемитские высказывания в адрес учителей и учеников.

Это был лишь последний случай использования ИИ для подделки аудиозаписей. Недавним примером стали праймериз в Нью-Гэмпшире в этом году, когда генерируемые ИИ звонки роботов имитировали голос президента Байдена и пытались убедить избирателей-демократов не голосовать.

Звуковые дипфейки особенно беспокоят правоохранительные органы, поскольку технология быстро совершенствуется. Хотя расхождения в видео и изображениях обнаружить легче, человеческие уши просто не всегда могут распознать явные признаки манипуляций со звуком.

1 мая 2024 Просмотров: 1 632