Эволюционирующий ИИ может вывести технологии на новый этап развития

Представление о самосовершенствующихся машинах живёт в художественной литературе уже более века. Однако сегодня, как отмечают учёные, этой старой угрозе придаёт новую силу не только рост вычислительных мощностей или появление более продвинутых чат-ботов. Главным фактором стала биологическая идея — эволюция.

Что такое эволюционирующий ИИ?

Согласно работе, опубликованной в авторитетном журнале, под эволюционирующим ИИ понимаются системы, которые могут самостоятельно воспроизводиться, порождать варианты и подвергаться естественному отбору. Такой подход заимствует ключевые механизмы эволюции живых организмов и переносит их в цифровую среду. Исследователи подчёркивают, что эволюция может происходить по-разному в биологическом и технологическом контексте, но фундаментальные принципы остаются теми же.

Авторы работы считают, что этот переход может кардинально изменить траекторию развития технологий. Вместо того чтобы программировать каждое действие, инженеры смогут создавать ИИ, который сам находит оптимальные решения, адаптируясь к изменяющимся условиям. Однако та же способность к самоизменению несёт в себе серьёзные риски.

Риски и возможности новой парадигмы

Главная тревога исследователей связана с возможной потерей контроля. Если эволюционирующие системы начнут изменяться способами, непредсказуемыми для человека, и выйдут за пределы установленных ограничений, последствия могут быть самыми серьёзными. «Если этот процесс выскользнет из-под строгого контроля человека, это может создать не просто лучшее программное обеспечение, а новый этап эволюции», — предупреждают авторы.

Среди потенциальных рисков — появление ИИ с непредусмотренными целями и поведением, которые могут быть опасны для человечества. Тем не менее, исследователи также видят и огромные возможности: от создания лекарств до решения сложных инженерных задач. Ключевой вопрос заключается в том, как удержать этот процесс в безопасных рамках.

Работа, опубликованная в Proceedings of the National Academy of Sciences, представляет собой попытку систематизировать знания о том, как принципы биологической эволюции могут быть применены к искусственному интеллекту. Учёные призывают к осторожности и активному обсуждению мер контроля, чтобы новая технология принесла пользу, а не угрозу. Эра эволюционирующего ИИ, похоже, уже на пороге.