DeepMind открыл институт для безопасного развития AGI-интеллекта

Компания DeepMind, входящая в состав технологического гиганта Google, объявила о создании нового института, который займется исследованием безопасного развития общего искусственного интеллекта (AGI) — системы, обладающей универсальными интеллектуальными способностями на уровне человека.

На сайте DeepMind Institute (DMI) сказано: "Институт DeepMind стремится к продвижению амбициозного мышления относительно безопасного развития общего искусственного интеллекта и его применения на благо общества. Мы уже наблюдаем последствия от более мощного ИИ в области кибербезопасности и биологических рисков, и существует вероятность того, что в будущем мы можем потерять контроль над саморазвивающимися системами".

Также сообщается, что институт станет площадкой для сотрудников Google, DeepMind, а также мирового научного сообщества. Они смогут публиковать творческие и всесторонне проработанные идеи о мире с AGI. 12 сентября директор американской компании Anthropic, Дарио Амодеи, выступил со статьей, в которой призвал замедлить темпы развития передовых ИИ-моделей. По его мнению, благодаря скоординированному замедлению, компаниям удастся выиграть один-два года, прежде чем технологии достигнут критических уровней развития, что позволит избежать серьезных ошибок.

Такие выводы поддержали:

• Основатель SpaceX, богатейший человек на планете Илон Маск
• Директор американской технологической фирмы OpenAI Сэм Альтман

Ранее мы писали о заявлении генсека ООН Антониу Гутерреша, который отметил, что искусственный интеллект несет риски, сравнимые с климатическим кризисом. Также внимание к этой теме проявляют разработчики ИИ, включая Илона Маска, выступая за замедление развития технологий ради глобальной безопасности и с целью предотвращения потенциальных угроз.