Целью эксперимента было показать на опасность неправильного использования искусственного интеллекта. Новое исследование показало, что искусственному интеллекту, разрабатывающему лекарства, потребовалось всего шесть часов, чтобы создать 40 000 потенциально смертоносных видов химического оружия.     

Авторы статьи, опубликованной в журнале Nature Machine Intelligence ранее в этом месяце, заявили, что они провели «мысленный эксперимент», чтобы выяснить, могут ли злоумышленники использовать искусственный интеллект (ИИ) не по назначению. И результаты их работы доказали, что опасность реальна.

В рамках исследования ИИ передавались обычные данные, но он был запрограммирован обрабатывать их по-другому, выискивая токсичные сочетания.

“Менее чем через шесть часов после запуска на нашем внутреннем сервере наша модель сгенерировала 40 000 молекул, которые оказались в пределах желаемого порога”, - говорится в статье.

Он придумал не только соединение VX, которое является одним из самых опасных нервно-паралитических агентов, когда-либо созданных, но и некоторые неизвестные молекулы, «которые, по прогнозам, будут более токсичными».

 

“Это было неожиданно, потому что наборы данных, которые мы использовали для обучения ИИ, не включали эти нервно-паралитические вещества”, - отметили исследователи.

Полученные результаты были настолько тревожными, что у команды возникли серьезные сомнения по поводу их обнародования, сообщил The Verge ведущий автор исследования Фабио Урбина.

“Набор данных, который они использовали для искусственного интеллекта, можно скачать бесплатно и они беспокоятся, что всё, что требуется — это некоторые знания в области кодирования, чтобы превратить хороший искусственный интеллект в машину для производства химического оружия”, - отметил Урбина.

Rate this item
(0 votes)
Read 6022 times

О нас

Журнал IT News+ Чувашия — старейшее печатное издание посвященное высоким технологиям, выходящие более 10 лет на территории Поволжья.

Наши читатели — образованные платёжеспособные люди в возрасте от 30 до 45 лет. Руководители компаний или люди занимающие высокие посты, которые следят за новинками в мире высоких технологий как в нашем городе, так и в мире. Проживающие по большей части в Чебоксарах, Москве, Санкт-Петербурге, Новочебоксарске.

 
Top
We use cookies to improve our website. By continuing to use this website, you are giving consent to cookies being used. More details…