Den type “AI” vi har lige nu og især LLM’er er bare det kinesiske rum. Den har en god algoritme for at give svar der lyder som om den forstår, uden faktisk at have evnen til at forstå, overveje eller reflektere.
Jeg er ikke enig i at tankeeksperimentet udelukker kunstig intelligens, men det passer meget godt på stokastiske papegøjer om ikke andet.
Jeg plejer at sammenligne LLM’er med en onkel, som har læst en masse viden, men ikke rigtig forstår den. Onklen kan derfor sige en masse af de rigtige ord, hvilket ofte er sandt når det er noget som han har direkte læst, men hvis viden skal sættes sammen på andre måder end det der er læst, bliver det lidt mer tilfældigt om det er rigtigt eller ej - dog stadig så det lyder overbevisende.
Lille anekdote: Jeg har brugt LLM til at skrive kode. Prøvede at lade den skrive en funktion hvor der skulle kommunikeres med et API, som jeg selv også havde lavet før og her rendte den ind i nogle af de samme fejl jeg selv lavede, da jeg skrev koden selv. Om man så kan skyde skylden på fejlene på LLM’en, API-dokumentationen eller APIs dårlige struktur, ved jeg ikke.
Den type “AI” vi har lige nu og især LLM’er er bare det kinesiske rum. Den har en god algoritme for at give svar der lyder som om den forstår, uden faktisk at have evnen til at forstå, overveje eller reflektere.
Jeg er ikke enig i at tankeeksperimentet udelukker kunstig intelligens, men det passer meget godt på stokastiske papegøjer om ikke andet.
Jeg plejer at sammenligne LLM’er med en onkel, som har læst en masse viden, men ikke rigtig forstår den. Onklen kan derfor sige en masse af de rigtige ord, hvilket ofte er sandt når det er noget som han har direkte læst, men hvis viden skal sættes sammen på andre måder end det der er læst, bliver det lidt mer tilfældigt om det er rigtigt eller ej - dog stadig så det lyder overbevisende.
Lille anekdote: Jeg har brugt LLM til at skrive kode. Prøvede at lade den skrive en funktion hvor der skulle kommunikeres med et API, som jeg selv også havde lavet før og her rendte den ind i nogle af de samme fejl jeg selv lavede, da jeg skrev koden selv. Om man så kan skyde skylden på fejlene på LLM’en, API-dokumentationen eller APIs dårlige struktur, ved jeg ikke.