⚡️ В LLM-индустрии наметился исторический сдвиг. Нейросети физически научились вычислять. Стартап Percepta опубликовал исследование (пока Proof of Concept), от которого гудит всё AI-комьюнити. Они впаяли виртуальную машину (WASM-интерпретатор) прямо в матрицу весов Трансформера

В чем фундаментальная проблема? Обычные ChatGPT и Claude не вычисляют математику, они её угадывают (отсюда галлюцинации в точных задачах). Сейчас это чинят костылями: заставляют ИИ писать Python-код и гонять его во внешней песочнице. Percepta доказали: Трансформер способен

исполнять сложнейший машинный код прямо внутри себя со 100% точностью🤯 Как это выглядит (чистый киберпанк): Вместо генерации текста по экрану со скоростью 30 000+ токенов в секунду летит машинный код - нейросеть жонглирует регистрами и ветвлениями. Авторы скормили в веса самое

сложное в мире судоку. Трансформер физически исполняет алгоритм поиска: подставляет цифру, ловит противоречие, делает откат (backtracking) и находит ответ. Никаких галлюцинаций, чистая логика. Как они сломали ограничения? Раньше так не делали из-за Attention Bottleneck.

Классическая нейросеть на каждом шаге вынуждена перечитывать всю свою историю генерации. На миллионном шаге вычислений она бы просто сожрала всю память и умерла. Авторы изобрели Exponentially Fast Attention - поиск данных в прошлом за логарифмическое время. Трансформер перестал

тупить и начал прогонять миллионы шагов за секунды. Прямой путь к AGI?🤖 В комменты под статьей уже пришел Андрей Карпаты выразить респект. И суть тут далеко не в создании быстрого калькулятора. Современные LLM - это наше интуитивное, "быстрое" мышление (System 1). Программный

код - это жесткая, детерминированная логика (System 2). То, что сделали Percepta - это чертеж того, как слить их воедино в одном «мозгу». Если этот безошибочный математический сопроцессор смогут бесшовно скрестить с речевыми моделями, мы получим ИИ, который навсегда перестанет

галлюцинировать в логике. Агентам больше не понадобятся внешние скрипты - тяжелейшие симуляции будут крутиться прямо внутри весов. И это уже не просто улучшение чат-ботов, это прямой, технически осязаемый мост к AGI. Будем следить👀👀

"Исторический сдвиг в LLM" или "Как решить задачу, давно решенную десятками простых алгоритмов по 10-20 строк, хайповым, но максимально неэффективным, денежно- и энергозатратным способом".

Нам ещё далеко до настоящего искусственного интеллекта. Судоку это лёгкий уровень шахмат или го, которые уже пройдены и, тем не менее есть шахматные задачи, которые ии не может решить, а человек достаточно легко.

И что тут нового? Современные нейронки поддерживают tools, то есть вызов внешних инструментов. Именно это они и используют для вычислений. Поэтому например Qwen, который я использую, никогда не ошибается в математических расчётах, даже сложных (со степенями например).

Сам-то понимаешь, что написал? Не научились вычислять. Просто научили LLM пользоваться калькулятором.

Ничего не понятно. ЯМ может работать с такой скоростью потому, что работает с тысячами токенов в разных позициях ОДНОВРЕМЕННО. Чтобы некий WASM работал как нейросеть, нужно сначала чем-то распараллелить задачу и запустить его тысячами. Если задача вообще параллелится.

Эта старая идея. Но с тех пор, как у нас появился ризонинг и надёжные тул коллы, абсолютно бессмысленная теперь

Вот тут неплохое описание: - распараллелить задачу насколько позволяет память процессора SRAM (on chip) - перевести вычисления в SRam т.к. она в 100 раз быстрее памяти GPU - вернуть назад

Часть про революцию и "прорыв" звучит как булшит, недавно видел что кодекс сам вручную подбирая веса смастерил трансформер с где то сотней параметров которая безупречно делает сложение, то есть собирать алгоритмы внутри сетей не новость.

Я ж говорил, что пока они систему 2 не встроят ничего не выйдет, а вон гляди, POC замутили. Хорошо хоть стали думать в этом направлении.

Как жрёт токены мощно

По-моему это должно работать хуже, потому что 1) Нужно для простых операций, которые на машине работали бы быстро перемножать огромные матрицы, то есть профита никакого. 2) Это не реальный интерпретатор, а чёрный ящик, который модет сбоить, не даёт 100% гарантии корректности

Они изобрели алгоритм решения судоку?

@grok добавь источники этой новости

Хорошо, но прикрученный калькулятор эффективнее, как и для человека

И все пиздец

для этого не нужно AI

Первый анализ 😁👍

А я недавно протупил 3 часа над задачей с массивами на литкоде. Нахер оно все это уже нужно...

Осталось дождаться wasm инъекций в ллм. Веселое время живём 🤣

Вот исходная статья

Гугл Gemini решает судоку без всякого питон-программирования, просто аналитически.

Они впаяли виртуальную машину. Чем отличается от прогона в песочнице?