Jak naprawdę działa AI

Wyobraź sobie konsultanta, który przeczytał tysiące książek i artykułów - to się nazywa "trening". Pamięta z nich ogromną wiedzę. Ale nie pamięta Ciebie ani poprzedniej rozmowy. Każdy nowy czat zaczyna od zera.

Co robi naprawdę: zgaduje następne słowo. Patrzy na to, co napisałeś, wybiera najbardziej prawdopodobne kolejne słowo, dokleja je do tekstu i powtarza. Tak buduje się całe zdanie - słowo po słowie. Cała "inteligencja" to bardzo dobre przewidywanie tego, co jest statystycznie najbardziej prawdopodobne. To nie jest myślenie - to statystyczne zgadywanie.

Okno kontekstowe to pamięć krótkotrwała AI w jednej rozmowie - wszystko, co AI "widzi" naraz: Twoje pytania, jego odpowiedzi, wklejone dokumenty i miejsce na nową odpowiedź.

Wyobraź sobie biurko o określonej wielkości. AI może mieć na nim tylko tyle papierów naraz. Gdy dokładasz nowe - stare same spadają z biurka.

AI nie powie "nie wiem". Jego natura to przewidywanie następnego słowa, więc zawsze coś wygeneruje - nawet bez podstaw.

Wyobraź sobie studenta na egzaminie ustnym, który nie przeczytał lektury. Nie powie "nie czytałem" - wymyśla wiarygodnie brzmiące zdania, miesza prawdę z fikcją, brzmi pewnie. AI robi dokładnie to samo. Nie poznasz po stylu, że zmyśla.

Bez RAG (Retrieval-Augmented Generation) AI zna tylko to, co miało w treningu - nie zna Twoich notatek, plików ani bazy wiedzy.

AI to konsultant z wiedzą z przeczytanych książek. RAG to asystent, który przed odpowiedzią najpierw szuka w Twojej szafie z dokumentami, wybiera 3-5 najbardziej pasujących kartek i podaje je konsultantowi - dopiero wtedy konsultant odpowiada.

Dzięki temu AI może cytować Twoje dokumenty, łączyć informacje z różnych plików i streszczać Twoje materiały zamiast odpowiadać ogólnikami z treningu.

Kwantyzacja to kompresja modelu AI, żeby zajmował mniej miejsca w pamięci. Bez niej większość modeli nie zmieściłaby się na zwykłym komputerze - dokładnie jak nieskompresowane zdjęcie RAW jest za duże, żeby wygodnie je przesłać.