Po LLM prichádza LRM

Autori článku Filip Tichý (Partner at Grant Thornton Slovakia) a Jakub Chudík (Co-Founder at Assetario) vás v sérii AI Breakfast prevedú svetom umelej inteligencie. Tento článok bol napísaný bez využitia umelej inteligencie.

Určite ste si pri používaní rôznych LLM modelov ako Chat GPT alebo Gemini všimli, že LLM model chrlí odpovede bleskovou rýchlosťou, odpovede znejú presvedčivo a profesionálne, ale často je viditeľné že nie sú príliš „smart“. Sú tam zjavné chyby alebo nezachytené súvislosti.

Je to logický výsledok, ktorý vychádza z podstaty LLM modelov - rýchle skladanie slov (alebo tokenov) na štatistickej báze bez “reálneho” rozmýšľania. Samozrejme aj napriek tomu, sú takéto LLM modely mimoriadne výkonné a užitočné.

Pri stavaní AI agentov začala vznikať potreba na nie len rýchle a produktívne modely, ale aj pre systematicky rozmýšľajúce modely. Výsledkom tejto potreby bolo na konci roku 2024 uvedenie prvých LRM modelov, alebo „Large reasoning modelov“. Tieto sú napríklad DeepSeek R1, Gemini Thinking, o3 (od Open AI). Príchod LRM modelov znamená významný posun v tom, ako môže umelá inteligencia riešiť zložité a viacstupňové úlohy.

Na rozdiel od LLM, ktoré sú nastavené na dopĺňanie nasledujúcich slov na základe veľkého množstva dát, LRM sú dizajnované na systematické uvažovanie, riešenie problémov a štruktúrované plánovanie. Hlavnou prednosťou LRM je schopnosť analyzovať jednotlivé kroky a vytvoriť ucelený plán postupu, čím sa výrazne zvyšuje presnosť výsledkov.

Ako to technicky funguje? LRM je vo svojej podstate úplne rovnaká technológia ako LLM s rovnakou technologickou architektúrou. Ide o transformer model, ktorý je ale inak nastavený. Má iné postupy a inak nastavené ciele. Veľmi zjednodušene povedané, je to ako by sme dali do LLM sto promptov typu „think again“, „think why“  a podobne. Je to vlastne nová aplikácia rovnakej technológie (LLM). Výsledkom tohto nového nastavenia je, že kým výstupom LLM je probalistický text, výstupom LRM je deterministické riešenie.

LRM potom vie daný problém rozdeliť na čiastkové kroky, a hľadať k nim riešenia. LRM modely sa nezlepšujú len väčším množstvom dát, ale aj plynutím času, čím dlhšie pracujú tým sú lepšie. Jednoduchý príklad na ilustráciu - dajte vylúštiť krížovku LLM-ku a LRM-ku. LLM vám ju vráti vyplnenú za pár sekúnd, no so zjavnými chybami. LRM do bude trvať pár minút (čo je v IT celá večnosť), ale bude takmer úplne presná, pretože LRM sa nesnaží len vygenerovať text, ale aj pochopiť čo je cieľom, čo je správny a čo nesprávny výsledok, a tieto poznania implementovať do navrhovaných výstupov.

Práve v tomto prístupe sa ukrýva najväčšia sila LRM modelov – dokážu sa „zamyslieť“ nad problémom podobne ako človek a pružne reagovať na nové informácie či zmenené podmienky. Ich prístup je tak bližšie k logike a analytickému mysleniu, čo im umožňuje zvládať aj náročné úlohy, kde LLM modely často zlyhávajú.

LRM modely sú takisto game-changerom pre AI agentov, kde sa často vyslovene hodí mať okrem výkonných LLM modelov aj LRM modely. Napríklad na určité plánovacie úlohy alebo kroky, ktoré majú hľadať riešenia. Okrem využitia AI agentov si LRM modely taktiež určite nájdu široké uplatnenie v rôznych biznis procesoch, podobne ako to bolo s LLM.