Ян ЛеКун покинул Meta и запустил AMI Labs , стартап, который спорит с главным направлением рынка. Вместо ещё одной большой языковой модели команда строит модульную архитектуру и уже привлекла около миллиарда долларов, хотя в штате всего 12 человек и коммерческого продукта в ближайшие пять лет не обещают.
Почему ЛеКун спорит с LLM
ЛеКун считает, что нынешние большие языковые модели упёрлись в потолок. Они требуют всё больше данных и вычислений, а попытки улучшать ответы через длинные цепочки рассуждений только увеличивают стоимость обучения и генерации. В его логике проблема не в размере моделей, а в самой конструкции.
Что делает AMI Labs
AMI Labs предлагает шесть специализированных модулей: модель мира, актёр, критик, восприятие, кратковременная память и конфигуратор. Каждый из них берёт только ту часть данных, которая нужна для своей задачи, поэтому система должна работать заметно легче и дешевле, чем единая модель на сотни миллиардов параметров.
Ставка рискованная, но понятная: если расчёты ЛеКуна верны, локальный и более экономичный ИИ может оказаться практичнее, чем бесконечное наращивание масштаба. Именно на это инвесторы и поставили около миллиарда долларов.