Ponad 150 matematyków apeluje: nie przeceniajmy możliwości sztucznej inteligencji

Sztuczna inteligencja z miesiąca na miesiąc przyciąga coraz większe nakłady finansowe i uwagę opinii publicznej. Wraz z imponującymi demonstracjami, które obiecują przełomy w medycynie, energetyce czy badaniach naukowych, narasta również ryzyko nieuzasadnionego optymizmu. Grupa wybitnych matematyków zwraca uwagę, że bez krytycznej analizy i rzetelnych konsultacji łatwo pomylić pojedynczy sukces technologiczny z gwarancją niezawodności całego ekosystemu AI.

Deklaracja z Lejdy – głos 152 matematyków z 23 krajów

Na początku czerwca br. opublikowano „Leiden Declaration on Artificial Intelligence and Mathematics”, podpisaną przez 152 specjalistów reprezentujących uczelnie i instytuty badawcze z pięciu kontynentów. Sygnatariusze podkreślają, że regulacje dotyczące AI muszą być tworzone w oparciu o ekspertyzę naukową, a nie o działania marketingowe firm technologicznych. W deklaracji wskazano, iż możliwość rozwiązania trudnego problemu, takiego jak jedna z hipotez Erdősa, nie czyni z modeli językowych narzędzi nieomylnego rozumowania matematycznego – a właśnie tak często przedstawiają to komunikaty korporacyjne.

Od pojedynczego triumfu do błędnych wniosków systemowych

Historia informatyki zna wiele przypadków, gdy spektakularny rezultat wywoływał falę przesadnych oczekiwań. W latach 90. projekty systemów ekspertowych deklarowały rewolucję w diagnostyce medycznej, lecz w praktyce wymagały ręcznego dopracowania reguł. Podobnie dziś: fakt, że model potrafi zweryfikować jeden dowód, nie oznacza, iż jest niezawodny przy innych twierdzeniach, które bywają subtelniejsze lub wymagają głębokiej semantycznej analizy. Badania Uniwersytetu Stanforda i MIT pokazują, że w zadaniach dowodzenia twierdzeń poziom „halucynacji” – czyli generowania przekonujących, lecz błędnych ciągów rozumowania – wciąż przekracza 15%. W aplikacjach krytycznych, takich jak kryptografia czy obliczenia inżynieryjne, margines błędu musi być znacznie niższy.

Halucynacje, prawa autorskie i luka finansowa

Sygnatariusze deklaracji podkreślają trzy główne obawy. Po pierwsze, zjawisko halucynacji: nawet najnowocześniejsze modele mogą tworzyć fałszywe twierdzenia trudne do odróżnienia od prawdziwych, co wiąże się z ryzykiem dla procesów badawczych i decyzji rządowych. Po drugie, nieuregulowane wykorzystanie tekstów naukowych w procesie trenowania algorytmów. Brak zgody autorów i niejasne zasady licencyjne rodzą pytania o własność intelektualną oraz sprawiedliwą dystrybucję zysków. Po trzecie, powiększająca się luka finansowa: gdy budżety korporacyjne mierzy się w miliardach dolarów, a finansowanie uniwersytetów stoi w miejscu, młodzi badacze matematyki często wybierają sektor prywatny, co osłabia fundamenty akademickiego ekosystemu.

Rekomendacje dla decydentów i przemysłu

Matematycy sugerują, by rządy weryfikowały deklaracje firm AI w oparciu o niezależne audyty i otwarte benchmarki. W duchu regulacji takich jak europejski AI Act czy amerykański NIST AI Risk Management Framework, zalecają też tworzenie interdyscyplinarnych komisji łączących naukowców, prawników i przedstawicieli społeczeństwa obywatelskiego. Równolegle potrzebne jest zwiększenie finansowania badań podstawowych, aby uniwersytety mogły prowadzić projekty porównywalne skalą do tych realizowanych w sektorze prywatnym. Wspólnym mianownikiem wszystkich rekomendacji pozostaje ostrożność: rozwój AI powinien być wspierany, lecz nie może opierać się wyłącznie na korporacyjnym entuzjazmie, który z natury rzeczy koncentruje się na szybkich sukcesach, a nie na długofalowej rzetelności.