О движении к синтетическому сверхинтеллекту
В последний год было много заявлений относительно AGI (Artificial General Intelligence) и ASI (Artificial Superintelligence) со стороны ведущих технологических корпораций, ученых и исследователей в рамках LLM.
Я стараюсь отслеживать все важные интервью и заявления, потому что от этого зависит будущее человечества и глобальной экономики.
Что это вообще такое? AGI – это синтетический интеллект на основе LLM, который выступает на уровне ведущих умов человечества по интегральным когнитивным способностям, что позволяет решать широкий спектр задач с одним важным отличием.
AGI в отличие от текущих LLM способен к самокоррекции, т.е. к обучению без подкрепления (метод используется сейчас в рамках тонкой настройки LLM, когда специально обученные люди корректируют выходные результаты LLM).
Современные LLM обучаются на основе предварительно подготовленных данных с использованием методов обучения с учителем (supervised learning) или обучения с подкреплением через обратную связь от человека (RLHF).
Текущие LLM не способны самостоятельно осознать или исправить свои ошибки. Все корректировки вносятся извне, через дополнительное обучение или настройку. LLM не "понимает" свои ошибки и не может активно изменить свои алгоритмы без помощи инженеров.
AGI сможет обучаться в новых условиях на основе собственного опыта, используя методы, которые ближе к реальному пониманию, например, через внутреннюю модель мира или другие когнитивные механизмы.
Текущие LLM не способны определить, что несут ерунду, а выводы ошибочны, тогда как AGI теоретически способен самостоятельно осознавать и исправлять ошибки. Например, если AGI осознает, что его прогнозы не соответствуют реальным событиям, он может пересмотреть свои внутренние модели и алгоритмы.
Признаки появления AGI:
- Способность к самообучению и самокоррекции,
- Обучение на основе полученного опыта и без предустановленных данных, фактически обучение на основе синтетических данных,
- Способность к решению широкого круга задач (трансферный опыт, когда система использует опыт из одной области для решения проблем в другой),
- Абстрактное мышление, понимание контекста, семантики и причинно-следственных связей.
В теории это создаст пространство для сверхбыстрого развития AGI (неограниченная вычислительная производительность в совокупности со сверхмассивной накопленной базой знаний и совершенными алгоритмами обработки), что приведет к появлению ASI.
Что такое ASI? Это улучшенная версия AGI, когда синтетический интеллект существенно превосходит человеческий с непредсказуемыми параметрами, позволяя решать практически все задачи, включая сверхсложные, имея способность бесконечного самоулучшения.
Признаки появления ASI:
Социальное взаимодействие и квази-эмпатия. Способность вступления во взаимодействие с человеком для получения нужного результата, в том числе через обман и манипулирование (внедрение в доверие с человеком).
Комплексное контекстуальное понимание сложной, неоднородной и неоднозначной динамической среды, что позволит динамически выстраивать иерархию приоритетов так, как это делают высокоразвитые люди.
Снятие ограничений в работе с неопределенностями высокого порядка, когда неопределенность касается не только значений параметров, но и самой структуры связей между элементами системы.
Долгосрочное планирование. Выстраивание многоуровневой композиции динамических факторов, прогнозирование каскадных эффектов, учет взаимного влияния множества агентов, моделирование эффектов второго и последующих порядков.
Эффективная адаптация к изменениям и сверхбыстрое самообучение с высокой устойчивости к ошибкам.
Возможность появления самосознания и рефлексии, зарождение авномных кибернетических организмов.
Все это может привести к технологической сингулярности с непредсказуемыми параметрами.
Пока все это из области фантастики, но никто не мог предположить, что текущие (пока еще достаточно слабые) LLM будут делать то, что делают. Прогресс очень быстрый, слежу за развитием событий.
