Сорок тысяч способов убить человечество: Медики в США решились на эксперимент с ИИ
Эксперимент, проведённый с искусственным интеллектом, привёл к пугающим результатам.
Искусственный интеллект некоторыми интеллектуалами считается вполне безопасным. Дескать, алгоритмы надёжно предохраняют от выхода ИИ из-под контроля. Но это до тех пор, пока не начнёшь задавать нейросети "правильные" вопросы.
Эксперимент американских учёных-медиков не то чтобы вышел из-под контроля, но привёл к пугающим результатам. Некоторое время, пишет научный журнал Nature, учёные вообще боялись обнародовать его результаты. Но потом решились. В качестве предупреждения человечеству.
Сам по себе опыт с нейросетью был задуман после того, как научно-медицинское сообщество не смогло ответить на вопрос, а насколько легко вообще можно создать смертоносный яд. Вопрос было решено переадресовать мощной нейросети.
В порядке эксперимента ИИ за 6 (!) часов создал 40 000 (!) молекул, каждая из которых, попав в организм человека, вызвала бы его смерть. Некоторые сложные соединения, изобретённые ИИ, оказались быстрее и смертоноснее, чем известные ныне боевые отравляющие вещества. Формулы и техника создания тоже ИИ известны.
И дело даже не в том, что ИИ на такое способен. А в том, что создать сильнодействующий яд, как оказалось, очень легко.