In hoeverre kan een kunstmatig systeem rationeel zijn?
Een nieuwe MIT-cursus, 6.S044/24.S00 (AI en Rationaliteit), probeert deze vraag niet te beantwoorden. In plaats daarvan worden studenten uitgedaagd om deze en andere filosofische problemen te onderzoeken door de lens van AI-onderzoek. Voor de volgende generatie wetenschappers kunnen concepten van rationaliteit en keuzevrijheid een integraal onderdeel blijken te zijn van de besluitvorming op het gebied van AI, vooral wanneer ze worden beïnvloed door de manier waarop mensen hun eigen cognitieve grenzen begrijpen en hun beperkte, subjectieve opvattingen over wat wel of niet rationeel is.
Dit onderzoek is geworteld in een diepe relatie tussen informatica en filosofie, die al lang samenwerken bij het formaliseren van wat het is om rationele overtuigingen te vormen, van ervaringen te leren en rationele beslissingen te nemen bij het nastreven van iemands doelen.
“Je zou je kunnen voorstellen dat informatica en filosofie behoorlijk ver uit elkaar liggen, maar ze hebben elkaar altijd gekruist. De technische delen van de filosofie overlappen echt met AI, vooral de vroege AI”, zegt cursusinstructeur Leslie Kaelbling, de Panasonic-professor Computerwetenschappen en Techniek aan het MIT, en doet denken aan Alan Turing, die zowel computerwetenschapper als filosoof was. Kaelbling heeft zelf een bachelordiploma in filosofie behaald aan Stanford University en merkt op dat informatica destijds niet als hoofdvak beschikbaar was.
Brian Hedden, een professor bij de afdeling Taalkunde en Filosofie, die een gedeelde functie bekleedt aan het MIT Schwarzman College of Computing bij de afdeling Elektrotechniek en Computerwetenschappen (EECS), die lesgeeft bij Kaelbling, merkt op dat de twee disciplines meer op één lijn liggen dan mensen zich zouden kunnen voorstellen, en voegt eraan toe dat de “verschillen in nadruk en perspectief liggen.”
Hulpmiddelen voor verder theoretisch denkenG
Kaelbling en Hedden werden voor het eerst aangeboden in de herfst van 2025 en creëerden AI en Rationality als onderdeel van de Common Ground for Computing Education, een horizontaal initiatief van het MIT Schwarzman College of Computing dat brengt meerdere afdelingen samen om nieuwe cursussen te ontwikkelen en te geven en nieuwe programma’s te lanceren die computergebruik combineren met andere disciplines.
Met meer dan twintig geregistreerde studenten is AI en Rationality een van de twee Common Ground-klassen met een basis in de filosofie, de andere is 6.C40/24.C40 (Ethics of Computing).
Terwijl Ethics of Computing de zorgen over de maatschappelijke gevolgen van de snel voortschrijdende technologie onderzoekt, onderzoekt AI and Rationality de omstreden definitie van rationaliteit door verschillende componenten in overweging te nemen: de aard van rationele keuzevrijheid, het concept van een volledig autonome en intelligente agent, en de toeschrijving van overtuigingen en verlangens aan deze systemen.
Omdat de implementatie van AI extreem breed is en elke gebruikssituatie verschillende problemen met zich meebrengt, brainstormden Kaelbling en Hedden over onderwerpen die voor een vruchtbare discussie en betrokkenheid tussen de twee perspectieven van de informatica en de filosofie zouden kunnen zorgen.
“Het is belangrijk als ik werk met studenten die machines bestuderen leren of robotica dat ze een stapje terugdoen en de aannames die ze maken onderzoeken”, zegt Kaelbling dingen vanuit een filosofisch perspectief helpen mensen een back-up maken en beter begrijpen hoe ze hun werk in de werkelijke context kunnen plaatsen.”
Beide instructeurs benadrukken dat dit geen cursus is die concrete antwoorden geeft op vragen over wat het betekent om een rationele agent te ontwikkelen.
Hedden zegt: “Ik zie de cursus als het bouwen van hun basis. We geven ze geen doctrine die ze moeten leren, uit het hoofd leren en vervolgens toepassen. We voorzien ze van hulpmiddelen om op een kritische manier over dingen na te denken terwijl ze de door hen gekozen carrière ingaan, of ze nu in de wetenschap, de industrie of de overheid werken.”
De snelle vooruitgang van AI brengt ook een nieuwe reeks uitdagingen met zich mee in de academische wereld. Voorspellen wat studenten over vijf jaar misschien moeten weten, is iets van Kaelbling ziet als een onmogelijke opgave. “Wat we moeten doen is ze de tools geven om een hoger niveau — de gewoonten van de geest, de manieren van denken – dat zal hen helpen de dingen te benaderen waar we nu echt niet op kunnen anticiperen”, zegt ze.
Het vermengen van disciplines en het ter discussie stellen van aannames
Tot nu toe heeft de klas studenten uit een breed scala aan disciplines aangetrokken – van degenen die stevig verankerd zijn in computergebruik voor anderen die geïnteresseerd zijn in het onderzoeken hoe AI hun eigen vakgebied kruist.
Tijdens de lezingen en discussies van het semester worstelden de studenten met verschillende definities van rationaliteit en hoe zij zich verzetten tegen aannames in hun vakgebied.
Over wat haar verraste aan de cursus zegt Amanda Paredes Rioboo, een senior bij EECS: “Ons is geleerd dat wiskunde en logica deze gouden standaard of waarheid zijn. Deze les liet ons een verscheidenheid aan voorbeelden zien van mensen die inconsistent handelen met deze wiskundige en logische raamwerken. We hebben dit hele blik met wormen opengetrokken over de vraag of het mensen zijn die irrationeel zijn? Zijn het de machine learning-systemen die we hebben ontworpen die irrationeel zijn? Zijn het wiskunde en logica zelf?”
Junior Okoroafor, een promovendus bij de afdeling Hersen- en Cognitieve Wetenschappen, waardeerde de uitdagingen van de klas en de manieren waarop de definitie van een rationele agent kan veranderen afhankelijk van de discipline. “Door in een formeel raamwerk weer te geven wat elk vakgebied onder rationaliteit verstaat, wordt precies duidelijk welke aannames gedeeld moeten worden, en welke verschillend waren, tussen de vakgebieden.”
De co-teaching, samenwerkingsstructuur van de cursus gaf, net als bij alle Common Ground-activiteiten, studenten en instructeurs de kans om in realtime verschillende perspectieven te horen.
Voor Paredes Rioboo is dit haar derde Common Ground-parcours. Ze zegt: “Ik hou echt van het interdisciplinaire aspect. Ze hebben altijd het gevoel gehad dat ze een mooie mix waren van theoretisch en toegepast, omdat ze behoefte velden doorkruisen.”
Volgens Okoroafor lieten Kaelbling en Hedden een duidelijke synergie tussen de vakgebieden zien, waarbij ze zeiden dat het voelde alsof ze betrokken waren en samen met de klas leerden. Hoe computerwetenschap en filosofie kunnen worden gebruikt om elkaar te informeren, stelde hem in staat hun gemeenschappelijkheid en onschatbare perspectieven op elkaar kruisende kwesties te begrijpen.
Hij voegt eraan toe: “Filosofie kan je ook verrassen.”
