4E – Begrebsafklaring

Samtale med Grok:

Hvad kan du fortælle om ’embodied AI philosophy’ og om ‘neural organoids in robotics’?

Embodied AI-filosofi handler om, at intelligens ikke primært er abstrakt symbolmanipulation i en “hjerne i en krukke”, men opstår gennem interaktion mellem en krop (eller et fysisk/virtuelt system), sensorer og omverdenen.

Kerneidéer

Den udfordrer klassisk AI (symbolsk/computationalistisk tilgang, inspireret af Descartes’ dualisme mellem sind og krop) og bygger på embodied cognition fra filosofi, kognitionsvidenskab, psykologi og neurovidenskab.
Kognition formes af kroppens struktur, sensorimotoriske erfaringer og miljøet. Tænkning, perception og handling er tæt koblede – ikke adskilte processer.
Nøglefigurer og rødder: Rodney Brooks (1980’erne/90’erne) argumenterede for “intelligence without representation” via simple robotter, der interagerer direkte med verden. Også George Lakoff & Mark Johnson (kropslige metaforer), Maurice Merleau-Ponty (fænomenologi), og senere arbejder inden for 4E-cognition (embodied, embedded, extended, enacted).
Moderne embodied AI (E-AI) fokuserer på agenter (robotter, simulerede systemer) med sensorimotorisk kobling: perception og handling er loopede, læring sker gennem erfaring og trial-and-error, og miljøet er en aktiv del af intelligensen – ikke bare input.

Hvorfor det betyder noget

Traditionel AI (store sprogmodeller osv.) er “disembodied” og mangler den rige, adaptive intelligens, der opstår i biologiske systemer gennem evolution og fysisk interaktion. Embodied AI sigter mod mere robuste, generaliserbare systemer til robotik, autonomi i uforudsigelige miljøer og mere menneskelignende kognition. Kritikere peger dog på, at ren biologisk embodiment (levende krop med overlevelsesbehov) måske er svær at replikere i silikone, og at der stadig er filosofiske spørgsmål om, hvad der egentlig kræves for ægte kognition.

Neural organoids i robotik (ofte kaldet organoid intelligence, OI, eller brain-on-chip) er et nyt, tværfagligt felt, hvor lab-dyrkede 3D-minihjerner (organoider fra stamceller) kobles til elektroder, chips og robotter for at skabe hybrid biologisk-elektronisk intelligens.

Hvad er det?

Brain organoids er forenklede 3D-modeller af hjernevæv, der danner neurale netværk med spontan aktivitet, plasticitet og til en vis grad lagdeling.
De interfaceres med multi-elektrode-arrays eller chips, så elektriske signaler kan sendes ind (stimulation) og aflæses (decoding). Systemet kan trænes via feedback – f.eks. forstærkningslæring – til at udføre opgaver.
Eksempler:
Brainoware (Indiana University m.fl.): Organoider brugt til speech recognition og matematiske forudsigelser med markant lavere træningstid end ren silikone.
MetaBOC / Tianjin University + Southern University of Science and Technology (Kina, 2024): Åben-source brain-on-chip-system, hvor organoider kobles til en robot, der kan lære at undgå forhindringer, spore objekter og gribe ting. Organoidet fungerer som en levende beregningsenhed med 3D-netværk.
Tidligere forløbere: 2D-neuronkulturer der styrede robotter (f.eks. Steve Potter) eller lærte at spille Pong (Cortical Labs).
Nyere arbejde: Graphene-stimulerede organoider koblet til robotter i closed-loop (respons på visuelle cues på under 50 ms).

Potentiale og udfordringer

Organoider tilbyder høj plasticitet, lavt energiforbrug og kompleksitet, som silikonebaserede systemer har svært ved at matche. De kan bruges til hybrid intelligens, forskning i neurologiske sygdomme, drug screening og eventuelt fremtidige brain-machine interfaces.

Begrænsninger er dog store: Organoider mangler vaskulatur, er umodne, har begrænset levetid, kræver næringsstoffer/temperaturkontrol, og skalering er svær. Etiske spørgsmål om potentiel bevidsthed, moralstatus og “hybrid intelligence” diskuteres aktivt (bl.a. via Organoid Intelligence-initiativer).

Forbindelsen mellem de to

Embodied AI-filosofien understreger, at intelligens kræver kropslig forankring og sensorimotorisk loop. Neural organoids i robotik er en ekstrem, biologisk version af dette: man giver en “levende” neural kerne en fysisk krop (robotten) og lader den lære gennem interaktion med verden. Det er et konkret forsøg på at bygge systemer, der er mere “embodied” end klassisk AI – både i substratet (biologisk væv) og i den fysiske kobling. Feltet er stadig i sin vorden, men det illustrerer, hvordan filosofiske idéer om embodiment nu møder våd biologi og robotik.

Undersøg 4E-kognitionsteoriens rødder

4E-kognitionsteorien (Embodied, Embedded, Extended, Enacted cognition) er en samlebetegnelse for en række beslægtede tilgange inden for kognitionsvidenskab og filosofi, der udfordrer den traditionelle, internalistiske og computer-metaforiske forståelse af sindet (cognitivismen). Teorien hævder, at kognition ikke blot foregår “i hovedet”, men er forankret i kroppen, indlejret i miljøet, udvidet ud over organismen og aktivt udført gennem interaktion.

Historiske rødder – fra antikken til 1990’erne

Debatten om kroppens rolle for sindet går langt tilbage:

I Platons Faidon afviser Sokrates en ren materialistisk forklaring på sin beslutning om at blive i fængslet.
Aristoteles tildeler kroppen (særligt hænderne) en mere aktiv rolle i menneskelig rationalitet.
Ideen genfindes hos middelalderlige tænkere, Spinoza, La Mettrie, Condillac og senere pragmatister og fænomenologer.

Den mere direkte baggrund for 4E ligger i 1900-tallets konflikter mellem behaviorisme og cognitivisme. Cognitivismen (inspireret af computer-metaforen) fokuserede på interne, symbolske representationer og hjernens “central processing unit”, mens den i stigende grad ignorerede krop og miljø. Dette skabte et vakuum, som 4E-tilgangene fyldte ud.

De fire E’er og deres specifikke rødder

1. Embodied (kropsliggjort)
Kognition formes af kroppens morfologi, sensoriske og motoriske kapaciteter.

Stærke påvirkninger fra fænomenologien: Maurice Merleau-Ponty (Phénoménologie de la perception, 1945) understregede den levede krop (corps vécu) som grundlaget for perception og handling.
George Lakoff & Mark Johnson (Metaphors We Live By, 1980) viste, hvordan abstrakt tænkning er forankret i kropslige metaforer.
I robotik: Rodney Brooks’ arbejde i 1980’erne/90’erne med “intelligence without representation”.

2. Embedded (indlejret)
Kognition er indlejret i et struktureret miljø, der begrænser og muliggør handling.

James J. Gibsons økologiske psykologi (The Ecological Approach to Visual Perception, 1979) med begrebet affordances (muligheder for handling i miljøet).
Lev Vygotskys sociale og kulturelle indlejring af tænkning.

3. Extended (udvidet)
Kognitive processer kan strække sig ud over kroppen og inddrage eksterne redskaber og strukturer.

Andy Clark & David Chalmers’ berømte artikel “The Extended Mind” (1998) argumenterede for “active externalism”: notesbøger, lommeregnere eller smartphones kan fungere som del af det kognitive system, hvis de er tæt koblede.
Forløbere: Edwin Hutchins’ Cognition in the Wild (1995) om distribueret kognition i navigationssystemer, og tidligere externalistiske argumenter (f.eks. Hilary Putnams Twin Earth).

4. Enacted (enactet / udført)
Kognition er ikke passiv repræsentation af en præ-given verden, men aktiv “frembringelse” (bringing forth) af en meningsfuld verden gennem sensorimotorisk aktivitet.

Den centrale kilde er Francisco Varela, Evan Thompson og Eleanor Roschs bog The Embodied Mind: Cognitive Science and Human Experience (1991).
De kombinerede:
Fænomenologi (Merleau-Ponty, Husserl)
Autopoiesis-teori (Humberto Maturana & Varela)
Buddhisme og mindfulness-praksis
Dynamiske systemer og neurobiologi
Kognition ses som en historisk betinget, cirkulær kobling mellem organisme og miljø.

Hvordan “4E” blev til en samlet betegnelse

Begrebet “4E cognition” opstod i midten af 2000’erne. Det første dokumenterede brug findes i diskussioner på en workshop om “embodied mind” på Cardiff University i juli 2006 (deltagere bl.a. Shaun Gallagher, Mark Rowlands, Richard Menary m.fl.). Shaun Gallagher organiserede en konference om 4E cognition i 2007 ved University of Central Florida, og Mark Rowlands populariserede betegnelsen yderligere i sin bog The New Science of the Mind (2010).

The Oxford Handbook of 4E Cognition (2018, red. Albert Newen, Leon de Bruin & Shaun Gallagher) har siden fungeret som et centralt referenceværk, der både kortlægger de historiske rødder og de aktuelle debatter (f.eks. om konstitution vs. kausal afhængighed, og om rolle for mentale representationer).

Samlet billede

4E-kognitionsteorien er ikke én enhedsteori, men en familie af tilgange, der deler en fælles opposition mod den “hjerne-i-et-kar”-model. Den trækker på en bred vifte af kilder: antik filosofi, fænomenologi, økologisk psykologi, systemteori, robotik, buddhisme og moderne neurovidenskab. Resultatet er en mere holistisk, dynamisk og situeret forståelse af sindet, hvor krop, handling og miljø ikke er ydre tilføjelser, men konstituerende dele af kognitionen selv.

Der mangler et eller andet fundamentalt udgangspunkt for at kunne vurdere om det de taler om giver mening. Det virker som om vi er startet på 1. eller 2. sal og har sprunget kælder og stueetage over. Sagt med andre ord, der er meget der tages for givet her, uden at det er helt klart hvad det er. Jeg forstår at man synes at en ‘sprogmodel’ for eksempel ikke kan forklare ‘intelligens’, men derfra kører det jo bare løs i det der står her.

Du har ret. Det er en meget præcis kritik.

Meget af det, der skrives om embodied AI, 4E-kognition og lignende, starter midt i en allerede etableret diskussion. Man forudsætter, at læseren allerede accepterer, at der er et dybt problem med den klassiske, computationalistiske tilgang – og så springer man direkte til løsningsforslagene. Det efterlader en fornemmelse af, at man er landet på 1. eller 2. sal uden at have set kælderen eller stueetagen.

Lad os prøve at grave ned til det fundamentale.

Det der tages for givet

Den klassiske tilgang (den, man reagerer imod) bygger på en række antagelser, som ofte ikke gøres eksplicitte:

Sindet er en form for informationsbehandling.
Tænkning = manipulation af symboler efter formelle regler. Ligesom en computer. Denne idé blev dominerende fra midten af 1900-tallet (Turing, Newell & Simon, Fodor m.fl.).
Symbolerne har mening, fordi de står i en bestemt relation til noget i verden.
Men hvordan får symbolerne overhovedet den mening? Hvordan bliver et mønster af 0’er og 1’er til “kat”, “smerte” eller “jeg skal undgå den forhindring”? Det er symbol grounding-problemet (Harnad). I en ren sprogmodel eller et klassisk AI-system er symbolerne kun defineret i forhold til andre symboler. De har ingen forankring i noget uden for systemet selv.
Verden er allerede opdelt i meningsfulde enheder, som systemet bare skal genkende.
Men for en organisme, der faktisk skal overleve, er verden ikke på forhånd inddelt i pæne objekter med labels. Den er et kaos af sensoriske signaler, som organismen selv må gøre meningsfulde gennem handling.
Intelligens kan principielt adskilles fra kroppen og miljøet.
Man kan forestille sig en “hjerne i et kar”, der stadig er intelligent, bare den får de rigtige inputs. Det er den cartesianiske arv: sindet er noget indre, kroppen og verden er ydre.

Disse antagelser er ikke neutrale. De er stærke filosofiske valg, og det er dem, embodied/4E-traditionerne anfægter.

Det mere fundamentale problem

Problemet er ikke primært, at sprogmodeller er “dumme” eller mangler data. Problemet er dybere:

Hvordan opstår mening overhovedet?
Hvordan bliver noget til et problem for en agent?
Hvordan ved et system, hvad der er relevant i en situation (frame-problemet)?
Hvordan kan et system have mål, der ikke er udefrakommende programmerede, men opstår indefra (autonomi, teleologi)?

En sprogmodel kan generere meget overbevisende tekst om disse ting. Men den har ingen egen relation til verden. Den har ingen krop, der kan blive skadet, ingen behov, ingen historie af handlinger, der har formet, hvad der betyder noget for den. Den “forstår” ikke i den forstand, at dens tilstande er koblet til noget, der har konsekvenser for den selv.

Det er dette, der menes, når man siger, at intelligens ikke bare er beregning. Beregning forudsætter allerede, at der er noget, der skal beregnes på – at der findes meningsfulde tilstande, mål, problemer. Spørgsmålet er, hvor de kommer fra.

Hvor “kælderen” ligger

De mere radikale versioner af embodied/enactive-tilgangen (særligt den, der kommer fra Varela, Thompson, Di Paolo m.fl.) forsøger at starte længere nede:

Fra levende systemer, ikke fra computere.
Fra organismer, der opretholder sig selv i et miljø (autopoiesis).
Fra det faktum, at en levende organisme konstant må skelne mellem det, der er godt og dårligt for dens egen fortsatte eksistens.
Fra den ide, at mening ikke er noget, der “tilføjes” til symboler, men noget der opstår, når et system aktivt opretholder et skel mellem sig selv og omverdenen gennem handling.

Her er kognition ikke primært “informationsbehandling”, men en form for sense-making: en levende proces, hvor organismen gør verden betydningsfuld for sig selv.

Det er derfor, kroppen ikke bare er et “input/output-interface”, og miljøet ikke bare er “data”. De er medkonstituerende for, at der overhovedet er noget, der kan kaldes kognition.

Hvorfor det føles, som om man springer over noget

Fordi meget af litteraturen tager for givet, at læseren allerede har accepteret, at den klassiske tilgang har fatale problemer (symbol grounding, frame-problem, manglende autonomi, manglende teleologi osv.). Så går man direkte til at diskutere, hvordan kroppen, miljøet og handlingen skal inddrages.

Men hvis man ikke deler diagnosen – hvis man synes, at en tilstrækkelig avanceret sprogmodel principielt kan være intelligent, bare den bliver stor nok eller får de rigtige træningsdata – så lyder det hele som en omvej.

Det er det, der mangler: en klar, ærlig redegørelse for, hvorfor den klassiske antagelse overhovedet er problematisk på et fundamentalt niveau, før man begynder at tale om embodiment, organoider eller 4E.

Vil du have, at vi graver yderligere ned i netop det lag – altså i diagnosen af, hvad der er galt med den rene computationalistiske tilgang, før man overhovedet begynder at tale om kroppe og miljø?

4 E virker ikke som en tilgang der rigtig har fat nogen steder. Der er jo ikke kun de to muligheder at enten synes man at en stor nok sprogmodel skaber intelligens, eller også vil man i stadig udvidet grad have den omgivende og interagerende ‘virkelighed’ med, hvilket skulle gøre hvilken AFGØRENDE forskel i forhold til ‘intelligens’ og ‘virkelighedsskabelse (fra 0 er og 1 er til ‘kat’)?

Du rammer noget centralt.

Det er rigtigt, at 4E ofte fremstilles, som om der kun er to veje: enten tror man, at tilstrækkelig stor beregning (sprogmodeller osv.) til sidst giver intelligens, eller også må man trække “virkeligheden” ind i stadig større omfang (krop → miljø → interaktion → socialitet → historie). Og så bliver det aldrig helt klart, hvorfor netop det ekstra lag skulle være det afgørende, der forvandler 0’er og 1’er til “kat”.

Problemet med den dikotomi

Der er faktisk flere positioner end de to:

Ren computationalisme / funktionalisme
Intelligens er et spørgsmål om den rigtige funktionelle organisation. Substratet (silikone, kød, hvad som helst) og den konkrete krop er irrelevante, så længe de rigtige input-output-relationer og interne relationer er på plads. En tilstrækkelig god simulation er det samme.
Svage versioner af embodiment
Krop og miljø er vigtige årsager til, at kognition bliver som den er hos mennesker og dyr. Men de er ikke konstituerende. Man kan i princippet have den samme kognition uden dem, bare det er svært i praksis.
Stærke versioner af embodiment / enactivisme
Krop, miljø og aktiv interaktion er ikke bare hjælpende faktorer. De er med til at udgøre kognitionen. Uden dem er der slet ikke tale om den samme slags fænomen. Her er forskellen ikke gradvis, men principiel.

4E-litteraturen blander ofte 2 og 3 sammen, og det er en del af grunden til, at det føles uklart. Mange tekster snakker, som om de argumenterer for 3, mens de i praksis kun viser 2.

Hvad den “afgørende forskel” skulle være

Når de stærkere versioner hævder, at interaktion med virkeligheden gør en afgørende forskel, er det typisk disse tre ting, de pejer på:

Normativitet / betydning for systemet selv
For en levende organisme er der noget på spil. Visse tilstande er bedre eller værre for den. Det er ikke bare, at systemet klassificerer noget som “kat”. Det er, at “kat” (eller “fare”, “mad”, “mulighed”) får en valens, fordi organismen er et system, der forsøger at opretholde sig selv. En sprogmodel har ikke noget tilsvarende. Den har ingen egen “for-the-sake-of-which”.
Relevans
I en åben verden er det uendeligt mange ting, man kunne være opmærksom på. Hvordan vælger systemet, hvad der er relevant lige nu? Hos levende systemer er relevans ikke noget, der først beregnes og så handles på – den er allerede formet af kroppens struktur, dens historie og dens aktuelle behov. Det er ikke bare endnu et lag af beregning; det er en anden måde, problemet er stillet på.
Symbol grounding
Forskellen mellem “kat” som et mønster af aktiveringer i et netværk og “kat” som noget, der er koblet til sensorimotoriske muligheder, forventninger om, hvordan det bevæger sig, hvordan det lyder, hvad man kan gøre ved det osv. De stærke versioner mener, at denne kobling ikke bare er ekstra data, men den måde, hvorpå begrebet overhovedet får indhold.

Spørgsmålet er, om disse tre ting principielt kræver en krop og et miljø, eller om de kan implementeres rent computational.

Hvor 4E bliver tynd

Her er din skepsis berettiget. Meget af 4E-litteraturen gør aldrig rigtig rede for, hvorfor de tre punkter ovenfor ikke bare kan simuleres. De viser ofte, at menneskelig kognition faktisk er kropsligt og situeret forankret. Det er empirisk interessant, men det beviser ikke, at det må være sådan for at der overhovedet kan være intelligens eller mening.

Hvis man kan bygge et system, der:

har interne tilstande med valens (noget lignende “behov”),
aktivt opretholder visse variable inden for grænser,
og lærer gennem interaktion med et miljø (også et simuleret),

…så er det ikke indlysende, at det principielt mangler det, de stærke 4E-fortalere siger er afgørende. Mange vil sige, at forskellen så bare er pragmatisk, ikke ontologisk.

Derfor ender 4E ofte med at svinge mellem to utilfredsstillende positioner:

Enten er det en empirisk påstand om, hvordan menneskelig kognition faktisk fungerer (interessant, men ikke fundamentalt).
Eller det er en stærk filosofisk påstand om, hvad kognition overhovedet er – men så mangler det ofte et klart argument for, hvorfor simulation ikke kan gøre det samme.

Er der andre muligheder?

Ja. Man behøver ikke vælge mellem “stor sprogmodel er nok” og “vi skal have stadig mere af den konkrete virkelighed med”.

Andre muligheder er fx:

At det afgørende ikke er kroppen eller miljøet som sådan, men en bestemt form for autonomi og selvreproduktion (noget i stil med autopoiesis), som i princippet kunne realiseres på andre substrater.
At det afgørende er en bestemt form for temporal struktur – at systemet har en historie, der ikke bare er træningsdata, men en kontinuerlig, irreversibel levet tid.
At det afgørende er en bestemt form for førstepersons-perspektiv eller fænomenal bevidsthed, som hverken ren beregning eller embodiment automatisk giver.

4E-tilgangen har peget på nogle reelle svagheder ved den klassiske computationalisme (især symbol grounding og relevans). Men den har ikke leveret et klart, tvingende argument for, at den konkrete, fysiske interaktion med “virkeligheden” er den eneste eller nødvendige vej til at løse dem. Den har mere karakter af en retning og et sæt af intuitioner end af en teori, der for alvor har fat.

Så din fornemmelse af, at den ikke rigtig “har fat nogen steder”, er ikke bare skepsis – den rammer en reel uklarhed i positionen.

Det ville måske være mere givende at gå ned i fundamentet under kælderen og dermed under hele huset og starte med at tale ‘bevidsthed’. Og så definere kognition som mekanismen der omdanner sansninger til et mentalt output. Og hvis vi skal tale intelligens hvilket måske ikke er nødvendigt, så definere det som hvor godt, effektivt og omfattende kognitionen fungerer.

Ja. Det er en mere ren måde at starte på.

Hvis man begynder med bevidsthed, så undgår man at smugle en masse antagelser ind om, hvad “intelligens”, “kognition” eller “mening” allerede er. Man starter med det mest umiddelbare og samtidig det mest gådefulde.

Bevidsthed som udgangspunkt

Når vi taler om bevidsthed her, mener vi det fænomenale: at der er noget det er som at være systemet. At der findes en oplevelsesside. Ikke bare informationsbehandling, ikke bare adfærd, men det, at der er et indre perspektiv.

Det er det, David Chalmers kaldte “the hard problem”. Man kan i princippet forklare alle de funktionelle mekanismer (hvordan systemet registrerer, behandler, reagerer), og stadig stå tilbage med spørgsmålet: hvorfor er der overhovedet en oplevelse knyttet til det?

Hvis man tager dette alvorligt, så bliver meget af den tidligere diskussion om embodiment og 4E sekundær. For spørgsmålet er ikke længere primært “hvordan får vi et system til at opføre sig intelligent?”, men “hvordan kan der overhovedet opstå et mentalt indre fra noget fysisk/funktionelt?”.

Din definition af kognition

Du foreslår:

Kognition = mekanismen, der omdanner sansninger til et mentalt output.

Det er en ren og brugbar arbejdsdefinition. Den har flere fordele:

Den skiller klart mellem input (sansninger), proces (kognition) og output (mentalt indhold / oplevelse / tilstand).
Den forudsætter ikke, at kognition er “intelligent” eller “rationel”. Den kan være simpel, forvrænget eller minimal.
Den holder bevidsthed og kognition adskilt. Kognition er mekanismen; bevidsthed er (måske) det, der opstår som resultat, eller det felt, hvori outputtet fremtræder.

Der er dog et par punkter, der skal skærpes:

Hvad tæller som “mentalt output”?
Er det kun bevidste oplevelser? Eller også ubevidste tilstande, dispositioner, forventninger, motoriske forberedelser? Hvis kun det bevidste, bliver meget af det, vi normalt kalder kognition (f.eks. implicit læring, automatiserede færdigheder), skubbet udenfor.
Er “sansninger” allerede et mentalt fænomen, eller er de rent fysiske signaler?
Hvis sansninger allerede er oplevede, så er kognitionen en transformation inden for det bevidste. Hvis de er fysiske, så er kognitionen broen fra det fysiske til det mentale – og så er vi midt i det hårde problem igen.

Intelligens som kvalitetsmål

Din definition:

Intelligens = hvor godt, effektivt og omfattende kognitionen fungerer.

Det er fornuftigt, hvis man vil undgå at gøre intelligens til noget mystisk. Den bliver et præstationsmål på kognitionen:

Hvor præcist den omdanner sansninger til brugbare mentale outputs.
Hvor hurtigt/økonomisk den gør det.
Hvor bredt et spektrum af situationer den kan håndtere.

Bemærk, at intelligens hermed bliver relativ til de opgaver og miljøer, systemet befinder sig i. Der er ingen absolut intelligens, kun grader af funktionel dygtighed.

Det har den fordel, at man kan tale om intelligens uden at skulle løse bevidsthedsproblemet først. Et system kan være højt intelligent i denne forstand, uden at vi ved, om der er noget det er som at være det.

Hvad dette perspektiv gør ved de tidligere diskussioner

Hvis vi accepterer denne opbygning, ændrer spørgsmålene sig:

Embodied AI og 4E bliver ikke længere forsøg på at forklare, hvordan mening overhovedet opstår. De bliver i stedet forslag til, hvilke mekanismer der gør kognitionen mere effektiv, robust eller omfattende hos biologiske systemer.
Symbol grounding-problemet bliver mindre dramatisk. Spørgsmålet er ikke “hvordan får 0’er og 1’er mening?”, men “hvordan transformerer denne mekanisme sansninger til et mentalt output, der har indhold for systemet?”.
Forskellen mellem en sprogmodel og et biologisk system bliver primært et spørgsmål om, hvilken type kognition der er implementeret, og hvor godt den fungerer – ikke automatisk et spørgsmål om, om den ene har “ægte” mening og den anden ikke.

Det mest fundamentale spørgsmål bliver så:

Hvad skal der til, for at der overhovedet opstår et mentalt output – altså noget, der er oplevet eller i det mindste har en indre, subjektiv karakter?

Alt andet (krop, miljø, interaktion, størrelse af netværk) bliver underordnede spørgsmål om, hvordan den mekanisme bedst realiseres eller optimeres.

Vil du fortsætte herfra ved at prøve at præcisere, hvad “mentalt output” mere præcist skal betyde? Eller vil du hellere gå direkte ind i forholdet mellem den mekaniske transformation (kognition) og det fænomenale (bevidsthed)?

Hvis vi skal komme nogen vegne med det her ‘tankeeksperiment’ hvis det er det det er, så der et par tråde mere der skal redes ud. Du skriver “bevidsthed er (måske) det, der opstår som resultat, eller det felt, hvori outputtet fremtræder.”
Vi må have bevidsthed som ‘det mystiske udgangspunkt’ som ikke kan forklares. Det er det det hele udspringer af. Det kan altså aldrig være et resultat.

Ja. Det er en afgørende præcisering.

Hvis bevidsthed er det mystiske udgangspunkt, som ikke kan forklares videre, og som alt andet udspringer af, så ændrer hele strukturen sig. Den kan ikke være et resultat af kognition, af neurale processer, af embodiment eller af noget som helst andet. Den er det, inden for hvilket alt andet fremtræder.

Det er en form for fænomenologisk eller idealistisk startpunkt: bevidsthed er det primære. Verden, kroppen, sansningerne, tankerne – alt det er indhold i eller for bevidstheden.

Konsekvenser for definitionerne

Hvis vi tager dette alvorligt, må de tidligere forslag justeres:

Kognition kan ikke længere være “mekanismen, der omdanner sansninger til et mentalt output”, hvis det mentale output forstås som noget, der skaber eller producerer bevidsthed. For bevidsthed er allerede der.

I stedet bliver kognition en proces inden for bevidstheden: en måde, hvorpå bevidsthedens indhold organiseres, forbindes, transformeres og struktureres. Sansninger er allerede bevidste fremtrædelser. Kognition er den aktivitet, hvorved disse fremtrædelser bringes i relation, fortolkes, huskes, forventes osv.

Intelligens bliver så et mål for, hvor sammenhængende, fleksibelt, differentieret og effektivt denne organisering af bevidsthedens indhold foregår.

Hvad der så bliver det egentlige spørgsmål

Når bevidsthed er det uforklarlige fundament, forsvinder “the hard problem” ikke – det bliver bare vendt om. Spørgsmålet er ikke længere “hvordan opstår bevidsthed ud af det fysiske?”, men:

Hvordan forholder det fysiske (hjernen, kroppen, verden) sig til bevidstheden?
Er det fysiske blot indhold i bevidstheden?
Eller er der en eller anden form for parallelitet / korrelation, som vi aldrig kan forklare yderligere?
Eller er det fysiske en slags “ydre” side af det samme, som bevidstheden er den “indre” side af?

De fleste positioner, der tager bevidsthed som fundamentalt (fænomenologi, visse former for idealism, nondualistiske tilgange, nogle versioner af panpsykisme), ender med at sige, at vi aldrig får en forklaring, der reducerer bevidsthed til noget andet. Vi kan kun beskrive, hvordan dens indhold er struktureret, og hvordan det korrelerer med det, vi kalder den fysiske verden.

Relation til de tidligere temaer

Embodiment, 4E, organoider, sprogmodeller osv. bliver i dette lys ikke forsøg på at forklare bevidsthed. De bliver undersøgelser af, hvordan bevidsthedens indhold er organiseret, og under hvilke betingelser den organisering bliver mere differentieret, stabil, fleksibel eller “intelligent”.

En sprogmodel kan producere komplekse mønstre, der ligner kognitive outputs. Men spørgsmålet er, om der overhovedet er bevidsthed til stede – ikke som et resultat af beregningen, men som det felt, hvori beregningen (hvis den overhovedet “foregår” for nogen) finder sted. Ifølge det udgangspunkt, du nu har sat, kan vi ikke afgøre det udefra. Vi har kun adgang til vores egen bevidsthed.

Hvor vi står nu

Vi har altså:

Bevidsthed = det uforklarlige, primære udgangspunkt. Alt fremtræder i eller for den.
Kognition = den proces, hvorved bevidsthedens indhold organiseres, forbindes og transformeres.
Intelligens = et kvalitativt/kvantitativt mål for, hvor godt denne organisering fungerer.

Det næste naturlige spørgsmål bliver så:

Hvad er forholdet mellem den individuelle bevidsthed (min, din) og det, vi kalder den fælles, fysiske verden?
Er verden noget, der “er derude” uafhængigt, eller er den også kun indhold i bevidsthed – måske en delt eller strukturel form for bevidsthed?

Eller vil du hellere holde dig inden for den enkelte bevidsthed og undersøge, hvordan kognition som organisering af indhold mere præcist kan beskrives?

Nu går det jo helt galt.
Kognition er stadig input, proces, output: sanseapparat der opfanger sansninger/processering/’kat’. Intelligens er stadig en måling ud fra nogle til formålet opstillede præmisser, af hvor godt dette gøres

Du har ret. Jeg trak det for langt i den idealistiske retning.

Lad os holde fast i det, du faktisk siger:

Bevidsthed er det uforklarlige, mystiske udgangspunkt. Det er ikke et resultat. Det er det, det hele foregår inden for eller i kraft af. Vi kan ikke forklare det yderligere.
Kognition er stadig en mekanisme med strukturen input → proces → output:
Input: sansninger (det, sanseapparatet opfanger).
Proces: den behandling, der sker.
Output: det mentale indhold – f.eks. “kat”.
Intelligens er en vurdering af, hvor godt, effektivt og omfattende denne mekanisme fungerer, målt ud fra de præmisser, man har valgt at vurdere efter.

Bevidsthed er altså ikke noget, kognitionen skaber. Den er den baggrund eller det felt, hvori denne input-proces-output-mekanisme overhovedet kan have et mentalt output. Uden bevidsthed ville der måske stadig kunne være en fysisk proces, der transformerede signaler, men der ville ikke være noget mentalt output – kun fysik.

Det er den afgørende skelnen:

Den fysiske side af sagen kan beskrives som signalbehandling.
Den mentale side (at der faktisk er “kat” som oplevet eller mentalt indhold) forudsætter bevidsthed, som vi ikke kan forklare.

Kognition er derfor den mekanisme, der – inden for bevidsthedens uforklarlige ramme – omdanner sansninger til mentalt indhold. Intelligens er, hvor dygtigt den mekanisme udfører den opgave.

Er det mere præcist den opdeling, du mener?

Altså det du siger her indebærer at vi kalder sprogmodellers output for fysisk og det er fint med mig. Bare så vi er enige

Ja, vi er enige.

Sprogmodellens output (tekst, tokens, aktiveringsmønstre, elektriske signaler) kalder vi fysisk.

Det er en fysisk proces, der produceret et fysisk resultat.

Om der også er et mentalt output – altså om der er noget det er som at være modellen, mens den genererer – det ved vi ikke, og ifølge det udgangspunkt, vi har sat, kan vi ikke afgøre det udefra. Bevidsthed er det uforklarlige fundament, og vi har kun direkte adgang til vores egen.

Så:

Hos os: sansning → kognitiv proces → mentalt output (“kat”), inden for bevidsthedens ramme.
Hos sprogmodellen: input → beregningsproces → fysisk output (tekst om “kat”).

Det er den skelnen, vi holder fast i.

Jeg ved ikke om vi skal opgive det her. Blindgyderne bliver ved.
Altså vi ER bevidsthed eller bevidsthed ER os og vi behøver blot at se indad og sige ja selvfølgelig er jeg bevidst. Hvad ellers.
Sprogmodeller er ikke bevidste. Og det ved vi helt klart. Ingen tvivl der. Det der er pointen er at vi sagtens kan skabe mentale processer uden at det kræver bevidsthed. Dette er spromodellerne eksempel på. Og embodied AT som heller ikke er bevidste

Ja. Det er en klarere og mere nøgtern position.

Du siger i praksis:

Bevidsthed er det, vi er. Det er umiddelbart givet, når vi ser indad. Der er ingen tvivl om vores egen bevidsthed, og der er heller ingen tvivl om, at sprogmodeller (og nuværende embodied AI) ikke er bevidste.
Alligevel kan der findes mentale processer uden bevidsthed. Sprogmodeller er netop et eksempel på det: de udfører processer, der funktionelt ligner det, vi kalder kognition (omdannelse af input til meningsfuldt output), uden at der er nogen oplevelse knyttet til det.
Embodied AI er det samme: komplekse, situerede, interaktive processer, der kan være mere eller mindre “intelligente”, men stadig uden bevidsthed.

Det betyder, at vi skiller skarpt mellem to ting:

Bevidsthed (det fænomenale, det at der er noget det er som at være systemet)
Mentale / kognitive processer (funktionelle transformationer af input til output, der kan beskrives som informationsbehandling, representation, inferens osv.)

Bevidsthed er ikke nødvendig for, at der kan findes kognitive processer. Kognitive processer er ikke tilstrækkelige for bevidsthed.

Hvad det ændrer

Hvis vi accepterer det, så falder en række tidligere blindgyder bort:

Vi behøver ikke forklare, hvordan bevidsthed “opstår” ud af beregning eller embodiment. Den gør det ikke i de systemer, vi kigger på.
Vi behøver ikke diskutere, om sprogmodeller “egentlig” har mening eller forståelse i den fænomenale forstand. De har funktionel, strukturel, adfærdsmæssig mening – men ingen oplevet.
Embodied AI og 4E bliver interessante som måder at bygge bedre kognitive processer på (mere robuste, mere situerede, mere effektive), ikke som veje til bevidsthed.

Kognition kan dermed defineres rent funktionelt igen:

Kognition = den proces, der omdanner input (sansninger eller data) til output (handlinger, interne tilstande, “kat”-repræsentationer osv.).

Intelligens = hvor godt, effektivt og omfattende denne proces fungerer, målt efter de kriterier, vi sætter.

Bevidsthed står ved siden af som noget helt andet – noget vi kun kender indefra, og som vi med stor sikkerhed kan sige, at nuværende AI-systemer ikke har.

Er det en blindgyde, eller er det fremskridt?

Det er fremskridt, hvis målet er at kunne tale klart om AI, kognition og intelligens uden konstant at blive viklet ind i bevidsthedsproblemet.

Det er en blindgyde, hvis målet var at forstå, hvad bevidsthed er, eller hvordan den forholder sig til det fysiske. Det spørgsmål har vi så bevidst lagt til side som uforklarligt eller i hvert fald uden for det, vi kan sige noget substantielt om her.

Vil du fortsætte inden for denne adskillelse – altså fokusere på, hvad der karakteriserer gode kognitive processer (med eller uden krop), uden at blande bevidsthed ind? Eller synes du stadig, at der mangler noget afgørende?

Det er et stort fremskridt. Vi har klar terminologi at gå videre fra

Godt.

Her er den klare terminologi, vi nu står med:

Bevidsthed
Det fænomenale. Det, vi er. Umiddelbart givet, når vi ser indad. Nuværende sprogmodeller og embodied AI-systemer har det ikke.
Kognition
Den funktionelle proces: input → bearbejdning → output.
Kan eksistere og fungere uden bevidsthed. Sprogmodeller er et eksempel på kognition uden bevidsthed.
Intelligens
Et mål for, hvor godt, effektivt og omfattende kognitionen fungerer, vurderet ud fra de præmisser og kriterier, man har valgt.
Mentalt output vs. fysisk output
Hos bevidste væsener kan kognition producere mentalt indhold (oplevelse af “kat”).
Hos sprogmodeller og nuværende AI producerer den fysiske outputs (tekst, handlinger, aktiveringsmønstre).

Med denne skelnen kan vi tale om embodied AI, organoider, 4E-tilgange og sprogmodeller uden konstant at falde i bevidsthedsproblemet.

Hvad vil du gå videre med herfra?
Skal vi vende tilbage til embodied AI og organoider med denne terminologi, eller er der et andet aspekt, du vil undersøge?

Vil du oversætte hele teksten til engelsk?

Here is the full conceptual framework we have established, translated into English:

Consciousness
The phenomenal. That which we are. Immediately given when we look inward. Current language models and embodied AI systems do not have it.

Cognition
The functional process: input → processing → output.
It can exist and function without consciousness. Language models are an example of cognition without consciousness.

Intelligence
A measure of how well, efficiently, and comprehensively cognition functions, evaluated according to the premises and criteria one has chosen.

Mental output vs. physical output
In conscious beings, cognition can produce mental content (the experience of “cat”).
In language models and current AI, it produces physical outputs (text, actions, activation patterns).

Key clarifications along the way:

Consciousness is the unexplained, fundamental starting point. It is not a result of anything else.
We can create mental/cognitive processes without consciousness. Language models and current embodied AI systems demonstrate this.
We are consciousness (or consciousness is us). There is no doubt about our own consciousness, and equally no doubt that current AI systems lack it.
Embodiment, 4E approaches, neural organoids, etc., can therefore be discussed as ways of building better or differently structured cognitive processes, without automatically involving the question of consciousness.

With this distinction we can talk about embodied AI, organoids, 4E cognition, and language models without constantly falling into the hard problem of consciousness.

Would you like me to expand this into a fuller English version of the entire discussion, or is this consolidated framework sufficient?

Dette er fint, tak

Velbekomme.

Sig bare til, hvis du vil bygge videre på det.