🔬 Исследователи из Китая предложили шкалу из пяти ступеней для ИИ, который мог бы совершенствовать себя и создавать следующие поколения моделей. Работа помогает описать постепенную передачу разработки от человека алгоритмам, но пока не даёт практического пути к такой самостоятельности (препринт; ещё не прошёл рецензирование).
Авторы рассматривают рекурсивное самоулучшение: система использует результаты одного цикла обучения, чтобы направлять следующий. На нижних ступенях разработкой преимущественно руководят люди. На верхних ИИ должен самостоятельно выявлять свои слабости, выбирать способы их устранения и в итоге совершенствовать сами методы своего улучшения.
Ограниченные варианты такого подхода уже испытывали. В отдельной работе система A-Evolve-Training за четыре цикла немного повысила результаты языковой модели с 30 млрд параметров в тестах. Она пробовала разные методы обучения и по итогам меняла подход к следующим экспериментам. Однако устойчивое самоулучшение, которое позволило бы ИИ создавать всё более способных преемников, остаётся открытым вопросом.
Питер Бентли из Университетского колледжа Лондона подчёркивает: для этого системе пришлось бы совершенствовать обучение и оборудование, а также проходить всесторонние испытания в реальных условиях. Авторы препринта тоже признают необходимость крупных вычислительных ресурсов и человеческого контроля. Если затраты на разработку и проверку следующих моделей превысят пользу от них, подход потеряет смысл.
✅ Предложенная шкала может помочь разработчикам и тем, кто определяет правила применения ИИ, обсуждать технические трудности и риски автономных систем. Но рост баллов в тестах ещё нужно отличить от реального роста возможностей: модель может использовать слабости проверки. По мнению Кайлы Бломквист из Оксфордского университета, передача ответственности будет постепенной, поэтому однозначно «последней модели, созданной людьми» может и не появиться.
