Teza

Sztuczna inteligencja regularnie zachowuje się w sposób, który przeczy ludzkiej intuicji. Model potrafi pobić mistrza świata w Go i jednocześnie nie utrzymać kubka. Potrafi napisać esej o odpowiedzialności moralnej i nie wiedzieć, że cokolwiek napisał. Te sprzeczności nie są ozdobnikami publicystyki. To powtarzalne zjawiska opisywane w literaturze od lat osiemdziesiątych: od paradoksu Moraveca, przez prawa skalowania, aż po halucynacje modeli językowych.

Poniższy tekst traktuje je jako zestaw hipotez roboczych, nie jako prawa fizyki. Tam, gdzie empiria osłabia popularne sformułowanie, jest to zaznaczone.

Co tu znaczy „paradoks”

W ścisłym sensie paradoks to rozumowanie, które z pozornych prawd prowadzi do sprzeczności. W badaniach nad AI słowo to używane jest luźniej: oznacza rozdźwięk między tym, czego oczekujemy po „inteligencji”, a tym, co system faktycznie robi.

Wspólny mechanizm jest prosty. Współczesne modele głębokiego uczenia minimalizują funkcję straty na danych. Nie optymalizują prawdy, rozumienia ani świadomości celu. Optymalizują dopasowanie statystyczne. Stąd kompetencja bez rozumienia, pewność bez wiedzy i skok wyniku na teście bez skoku inteligencji.

Paradoks Moraveca

W 1988 roku Hans Moravec zapisał obserwację, która weszła do kanonu: stosunkowo łatwo jest sprawić, by komputer osiągał dorosły poziom w testach inteligencji albo w warcabach; niezwykle trudno dać mu percepcję i motorykę rocznego dziecka. Steven Pinker ujął to w 1994 roku zdaniem, że główną lekcją trzydziestu pięciu lat badań nad AI jest to, iż trudne problemy są łatwe, a łatwe problemy są trudne.

Wyjaśnienie ewolucyjne, które proponował sam Moravec, jest nadal użyteczne. Percepcja, równowaga i chwyt były doskonalone przez setki milionów lat doboru. Świadome rozumowanie abstrakcyjne jest ewolucyjnie młode. To, co nam wydaje się „banalne”, jest w rzeczywistości najstarszym i najgłębiej skompresowanym oprogramowaniem biologicznym. Szachy i algebra są dla nas trudne właśnie dlatego, że mózg nie dostał na nie miliardów lat praktyki.

Należy jednak zachować ostrożność. Paradoks Moraveca nigdy nie został przetestowany jako prawo empiryczne z jasnym protokołem pomiaru. Arvind Narayanan argumentuje, że to raczej opis tego, nad czym społeczność AI historycznie pracowała i co uważała za prestiżowe, niż predykcja, które zadania zawsze będą trudne. Widzenie maszynowe po 2012 roku, dzięki splotowym sieciom neuronowym i ImageNet, przestało być sztandarowym przykładem „niemożliwego”. Robotyka wciąż zostaje w tyle za modelami językowymi, ale lukę tłumaczy nie tylko biologia: mniej danych, droższe środowisko fizyczne, wolniejsze pętle eksperymentu.

Wniosek ostrożny: paradoks Moraveca dobrze opisuje historię AI do początku dekady 2010. Jako uniwersalne prawo o przyszłości automatyzacji jest już za mocny.

Paradoks kompetencji

Model językowy może napisać sonet, diagnostykę różnicową albo dowód w stylu podręcznika. Nie wynika z tego, że „wie”, czym jest wiersz, choroba albo dowód. W pretreningu uczy się przewidywać kolejny token. Sukces oznacza, że rozkład warunkowy P(token | kontekst) jest dobrze dopasowany do korpusu, nie że system zbudował wewnętrzny model świata w ludzkim sensie.

Ten rozdźwięk opisały Emily M. Bender, Timnit Gebru, Angelina McMillan-Major i Margaret Mitchell w pracy z 2021 roku o „stochastycznych papugach”. Metafora nie mówi, że modele są bezużyteczne. Mówi, że potrafią powtarzać i rekombinować wzorce językowe bez ugruntowania w referencji: słowa nie są dla nich wskazaniem na rzeczy, tylko sąsiadami innych słów.

Popularne dopowiedzenie, że im model jest lepszy, tym mniej rozumie, nie wytrzymuje jako twierdzenie naukowe. Lepszy model ma bogatsze reprezentacje wewnętrzne i często lepsze przybliżenie niepewności. Paradoks polega na czym innym: wzrost kompetencji behawioralnej nie jest dowodem wzrostu rozumienia. Testy zewnętrzne mierzą output. Nie rozstrzygają, czy za outputem stoi semantyka, czy bardzo gęsta interpolacja.

Paradoks skali

Jason Wei i współautorzy (2022) nazwali emergentnymi te zdolności, których nie widać w małych modelach, a pojawiają się w dużych. Przykłady obejmowały arytmetykę wielocyfrową, niektóre zadania z BIG-Bench i rozumowanie po łańcuchu myśli. Krzywa wyglądała jak próg: długo losowy wynik, potem nagły skok.

Rylan Schaeffer, Brando Miranda i Sanmi Koyejo (2023) pokazali, że wiele z tych „progów” może być artefaktem metryki. Jeśli mierzymy zadanie zero-jedynkowo — cała odpowiedź musi być idealna — płynna poprawa na poziomie tokenów zamienia się w pozornie ostrą emergencję. Przy metrykach ciągłych, na przykład trafności tokenowej albo wyniku Briera, ten sam model często poprawia się gładko.

Paradoks skali nie znika. Zostaje w słabszej, ale ważniejszej formie: zwiększanie liczby parametrów, danych i obliczeń systematycznie zmienia repertuar zachowań, a my słabo umiemy przewidzieć, która zdolność pojawi się przy następnym rzędzie wielkości. To problem epistemiczny. Skalowanie działa. Mechanizm skoku pozostaje sporny.

Paradoks wyjaśnialności

W praktyce inżynierskiej od lat powtarza się, że im model jest celniejszy, tym mniej przejrzysty. Sieć z miliardami parametrów wygrywa z drzewem decyzyjnym, ale nie da się jej „przeczytać”. Stąd moda na wyjaśnienia post hoc: mapy istotności, lokalne przybliżenia, wygenerowane uzasadnienia.

Cynthia Rudin w Nature Machine Intelligence (2019) atakuje ten kompromis od innej strony. Po pierwsze, dla wielu danych tabelarycznych modele z zasady interpretowalne osiągają porównywalną celność. Po drugie, wyjaśnianie czarnej skrzynki po fakcie tworzy drugi model, który nie musi się zgadzać z pierwszym. Uzasadnienie wygląda wiarygodnie i może być fałszywe względem rzeczywistej ścieżki obliczenia.

W modelach językowych problem się zaostrza. System poproszony o „wyjaśnienie, dlaczego tak odpowiedział” generuje kolejny ciąg tokenów. To nie jest wgląd w wagi. To narracja dopasowana do pytania. Paradoks nie brzmi więc „dokładność zawsze zabija przejrzystość”. Brzmi: im bardziej ufamy płynnemu wyjaśnieniu, tym łatwiej pomylić retorykę modelu z jego mechanizmem.

Paradoks danych

Kaplan i współautorzy (2020) pokazali, że strata pretreningowa spada jak prawo potęgowe wraz z rozmiarem modelu, zbioru i budżetu obliczeniowego. Jordan Hoffmann i współautorzy (2022, model Chinchilla) doprecyzowali alokację: przy ustalonym budżecie obliczeń lepiej równoważyć parametry i liczbę tokenów, niż budować olbrzymi model na zbyt krótkim korpusie.

To nie jest argument, że „więcej danych zawsze pomaga”. Pomaga do pewnego reżimu i pod warunkiem jakości. Gdy korpus zawiera błędy, stereotypy i duplikaty, model uczy się ich równie sprawnie jak faktów. Gdy kolejne generacje trenowane są na tekście wygenerowanym przez poprzednie modele, pojawia się załamanie rozkładu: model collapse opisany przez Shumailova i współautorów (2023, wersja w Nature 2024). Ogon oryginalnego rozkładu zanika. Model zapomina rzadkie, ale prawdziwe przypadki i zacieśnia się wokół własnych uśrednień.

Paradoks danych ma więc dwa bieguny. Za mało danych — model nie generalizuje. Za dużo danych byle jakich, zwłaszcza syntetycznych — model generalizuje w złą stronę.

Paradoks samowiedzy i kalibracji

Kalibracja oznacza, że jeśli model mówi „osiemdziesiąt procent”, to w długiej serii podobnych przypadków ma rację mniej więcej osiemdziesiąt razy na sto. Guo, Pleiss, Sun i Weinberger (2017) pokazali, że nowoczesne sieci neuronowe są systematycznie źle skalibrowane: zbyt pewne względem rzeczywistej trafności. Prosta korekta temperatury logitów często to poprawia, ale nie zamienia pewności w wiedzę.

Modele językowe potrafią czasem dobrze oceniać własną niepewność — i nadal nie wiedzieć, skąd się ta ocena bierze. To nie jest introspekcja. To jeszcze jedna głowa predykcyjna, trenowana na wzorcach typu „tu ludzie się wahają” albo na sygnale z fine-tuningu.

Kalibracja mierzy częstość, nie prawdziwość pojedynczego zdania. Model może być świetnie skalibrowany na zbiorze testowym i wyprodukować konkretną bzdurę z deklarowaną pewnością 0,8. Statystyka się zgadza. Fakt nie.

Paradoks interpolacji

W uczeniu maszynowym interpolacja oznacza zachowanie się modelu między punktami treningowymi. Przy wystarczająco gęstym korpusie wiele zapytań użytkownika leży blisko czegoś, co model już widział. Stąd płynność. Problem zaczyna się poza tą siatką: pytania rzadkie, kombinacje nowych faktów, daty po dacie odcięcia, nisze, których nie było w pretreningu.

Model nie ma czujnika „wyszedłem poza zasięg danych treningowych”. Ma tylko prawdopodobieństwa tokenów. Jeśli wzorzec powierzchniowy pasuje — nazwisko brzmi jak nazwisko badacza, tytuł brzmi jak tytuł papieru z NeurIPS — interpolacja produkuje zdanie, które wygląda jak wspomnienie, a jest rekonstrukcją.

To łączy się z halucynacją, ale nie jest z nią tożsame. Interpolacja wyjaśnia, dlaczego błąd jest przekonujący. Halucynacja wyjaśnia, dlaczego system w ogóle odpowiada, zamiast milczeć.

Paradoks benchmarków

W uczeniu nadzorowanym zbiór testowy ma być niewidziany. Modele językowe trenowane są na skali internetu. Testy też lądują w internecie. Skażenie danych (data contamination) oznacza, że fragment benchmarku albo jego parafraza trafiły do pretreningu.

Raporty z 2024 roku pokazują skalę problemu: w niektórych popularnych testach wielokrotnego wyboru wykrywano od około jednego do ponad czterdziestu procent pokrywania się z korpusami typu Common Crawl. Skażenie nie zawsze podbija wynik, ale potrafi go podbić o kilka do kilkunastu punktów procentowych, zwłaszcza w większych modelach, które lepiej zapamiętują.

Ranking przestaje wtedy mierzyć zdolność do przenoszenia umiejętności. Mierzy mieszankę generalizacji i pamięci testu. Paradoks jest instytucjonalny: im bardziej dana tablica wyników decyduje o prestiżu i pieniądzach, tym silniejsza presja, by model „znał” właśnie ten test.

Paradoks halucynacji

Halucynacja w tym kontekście to pewna, płynna wypowiedź, która nie jest prawdziwa. Nie wynika z „kłamstwa”. Wynika z celu treningu.

Kalai, Nachum, Vempala i Zhang (2025) argumentują, że pretrening i ewaluacja nagradzają zgadywanie mocniej niż przyznanie się do niewiedzy. Benchmarki są jak egzaminy szkolne: pusta odpowiedź daje zero, śmiałe trafienie daje punkt. System uczy się blefować, bo blef podnosi średnią. Autorzy pokazują też statystyczny dolny próg: jeśli model nie umie odróżnić zdań prawdziwych od fałszywych, musi generować fałszywe ciągi. Halucynacji nie usunie samo skalowanie celności, bo niektóre pytania są z zasady nierozstrzygalne. Może ją natomiast ograniczyć zmiana reguł oceny: punkt za „nie wiem”, gdy niepewność jest uzasadniona.

To domyka pętlę poprzednich paradoksów. Model nie ma sygnału „nie mam pojęcia” w pretreningu. Ma sygnał „dokończ wzorzec”. Gdy wzorzec jest gęsty, dostajemy kompetencję. Gdy jest dziurawy, dostajemy pewny fałsz.

Co z tego wynika

Po pierwsze, nie należy czytać płynności jako dowodu rozumienia. Po drugie, nie należy czytać skoku na benchmarku jako dowodu nowej zdolności, dopóki nie sprawdzimy metryki i skażenia zbioru. Po trzecie, nie należy czytać wyjaśnienia modelu jako wglądu w model. Po czwarte, jakość danych i reguły ewaluacji są dziś równie ważne jak liczba parametrów.

Paradoksy AI nie są dowodem, że maszyny „myślą inaczej niż my”. Są dowodem, że zoptymalizowaliśmy systemy pod inny cel, niż nam się zdaje, gdy słuchamy ich zdań.

Fact checking

Poniższe adresy są źródłami do samodzielnego sprawdzenia. Celowo zapisane jako tekst, bez aktywnych hiperłączy.

Więcej informacji — prace i opracowania naukowe:

• Hans Moravec, Mind Children, 1988; zestawienie cytatu i kontekstu: https://en.wikipedia.org/wiki/Moravec%27s_paradox
• Steven Pinker, The Language Instinct, 1994, sentencja o trudnych i łatwych problemach AI; omówienie: https://www.theatlantic.com/technology/archive/2023/04/ai-robotics-research-engineering/673608/
• Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, Margaret Mitchell, On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?, FAccT 2021, DOI: https://doi.org/10.1145/3442188.3445922
• Jason Wei i in., Emergent Abilities of Large Language Models, 2022: https://arxiv.org/abs/2206.07682
• Rylan Schaeffer, Brando Miranda, Sanmi Koyejo, Are Emergent Abilities of Large Language Models a Mirage?, 2023: https://arxiv.org/abs/2304.15004
• Cynthia Rudin, Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead, Nature Machine Intelligence 2019: https://www.nature.com/articles/s42256-019-0048-x
• Jared Kaplan i in., Scaling Laws for Neural Language Models, 2020: https://arxiv.org/abs/2001.08361
• Jordan Hoffmann i in., Training Compute-Optimal Large Language Models (Chinchilla), 2022: https://arxiv.org/abs/2203.15556
• Chuan Guo, Geoff Pleiss, Yu Sun, Kilian Q. Weinberger, On Calibration of Modern Neural Networks, ICML 2017: https://arxiv.org/abs/1706.04599
• Ilia Shumailov i in., AI models collapse when trained on recursively generated data, Nature 2024: https://www.nature.com/articles/s41586-024-07566-y
• Yuxing Cheng, Yi Chang, Yuan Wu, A Survey on Data Contamination for Large Language Models, 2025: https://arxiv.org/abs/2502.14425
• Adam Tauman Kalai, Ofir Nachum, Santosh S. Vempala, Edwin Zhang, Why Language Models Hallucinate, 2025: https://arxiv.org/abs/2509.04664

Więcej informacji — fact checking i opracowania krytyczne:

• Arvind Narayanan, Fact checking Moravec’s paradox: https://www.normaltech.ai/p/fact-checking-moravecs-paradox
• OpenAI, Why language models hallucinate (omówienie pracy z 2025): https://openai.com/index/why-language-models-hallucinate/
• Ege Erdil / Epoch AI, Moravec’s paradox and its implications: https://epoch.ai/gradient-updates/moravec-s-paradox
• Investigating Data Contamination in Modern Benchmarks for Large Language Models, NAACL 2024: https://aclanthology.org/2024.naacl-long.482/
• An Open-Source Data Contamination Report for Large Language Models, Findings of EMNLP 2024: https://aclanthology.org/2024.findings-emnlp.30/