Door: Gerson Veenstra
Hoe houden we de toekomst van AI mensgericht? Dat is het centrale thema van SXSW dit jaar en dit komt in veel sessies terug. Deze keynote mag je dan ook gerust zien als een van de belangrijkste dit jaar. Niet omdat het per se ook de leukste is, of omdat er niks meer is dan dat, maar omdat het hier nu echt om draait. De sessie maakt het alleen niet helemaal waar.
In deze keynote staat AI-wetenschapper, ondernemer en investeerder Rana el Kaliouby centraal. In gesprek met journalist Bob Safian zet zij een duidelijke lijn uit: AI draait nu vooral om rekenkracht, snelheid en productiviteit, maar dat is niet genoeg. Wie de toekomst van AI goed wil vormgeven, moet ook kijken naar emoties, relaties, context en menselijk gedrag. Haar belangrijkste punt is helder: AI hoeft de mens niet kleiner te maken, maar dat gebeurt wel als we technologie alleen bouwen op efficiëntie en macht.
AI is slim, maar begrijpt mensen nog amper
El Kaliouby kijkt al jaren naar een vraag die nu urgenter voelt dan ooit: hoe maak je technologie menselijker? Volgens haar ligt daar precies het probleem van dit moment. AI wordt snel beter in taken die draaien om kennis en analyse, maar blijft zwak in alles wat met menselijke gevoeligheid te maken heeft.
Ze zegt daarover: "We hebben enorm veel vooruitgang geboekt in AI aan de IQ-kant, in de cognitieve vermogens en de cognitieve intelligentie van machines. Maar om tot echte artificial general intelligence te komen, hebben we absoluut technologie nodig die ook emotionele en sociale intelligentie heeft."
Dat is een belangrijk onderscheid. Veel AI-systemen reageren vooral op woorden. Ze letten op wat iemand zegt, maar niet op hoe iemand iets zegt. Terwijl juist daar veel menselijke communicatie zit. El Kaliouby noemt dat ook letterlijk: "Slechts 7 procent van hoe we communiceren is de keuze van woorden. 93 procent is non-verbaal." Gezichtsuitdrukking, stem, lichaamshouding en context doen dus het meeste werk. En precies dat deel mist vaak in de AI van nu.
Daarmee raakt ze aan een groter punt. Als AI steeds vaker een rol krijgt in werk, zorg, onderwijs en dagelijks leven, dan gaat het niet alleen om goede antwoorden. Dan gaat het ook om timing, toon, vertrouwen en begrip. Een systeem dat alles 'weet', maar mensen niet aanvoelt, schiet dan alsnog tekort.
De grote fout: bouwen voor functionaliteit, niet voor mensen
El Kaliouby maakt dat heel concreet met een voorbeeld uit de wereld van humanoïde robots. Die machines worden technisch steeds indrukwekkender. Ze pakken taken op, bewegen zelfstandig en nemen werk uit handen. Toch ziet zij daar ook een blinde vlek.
Over veel van die robots zegt ze: "Ze zijn groot en eng en ze weten niet echt hoe ze met mensen moeten omgaan." Dat is een scherpe observatie, omdat het laat zien waar de prioriteit nu vaak ligt. Bouwers richten zich op wat een systeem doet. Veel minder op hoe een mens zich voelt naast dat systeem.
Dat is precies de kern van haar verhaal. Technologie komt niet in een leegte terecht. Die belandt in huizen, werkplekken, ziekenhuizen en scholen. Dan doet ontwerp ertoe. Dan doet gedrag ertoe. Dan doet menselijke ervaring ertoe.
Daarmee zegt ze ook iets over macht. Wie AI bouwt, bepaalt welke waarden erin terechtkomen. En als de bouwers vooral kijken naar prestatie, schaal en snelheid, dan krijgt de samenleving systemen die daar ook op draaien.
AI moet ons versterken, niet vervangen
El Kaliouby kiest duidelijk niet voor angst. Ze schildert geen doemscenario waarin mensen overbodig raken. Ze ziet juist veel economische en maatschappelijke waarde in AI. Maar die waarde krijgt pas richting als de inzet helder is.
Ze vat haar eigen uitgangspunt zo samen: "AI moet onze vermogens niet vervangen. Het moet echt versterken en uitbreiden wat we doen."
Dat klinkt eenvoudig, maar het is een principiële keuze. In haar ogen hoort AI saaie, repetitieve en gevaarlijke taken over te nemen, niet alles wat mensen betekenis geeft. Daarom noemt ze ook een voorbeeld van robots die worden ingezet voor scheepslassen. Dat is zwaar en gevaarlijk werk, en er zijn te weinig mensen die dat willen doen. Daar past automatisering dus goed.
Maar el Kaliouby trekt daar niet de conclusie uit dat elke menselijke taak dan maar door machines moet worden overgenomen. Haar punt is juist dat we scherper moeten bepalen wat werk menselijk maakt. Zodra AI meer routinewerk oppakt, komt de vraag op tafel waar mensen zelf hun waarde blijven toevoegen. Niet aan de rand, maar in de kern.
De echte winst zit niet alleen in productiviteit
Wat deze sessie sterk maakt, is dat el Kaliouby AI niet alleen als economische machine neerzet. Ze koppelt de technologie ook aan menselijke ontwikkeling. Ze zegt dat AI de kans biedt om "menselijk potentieel te ontsluiten" en om grote maatschappelijke problemen aan te pakken.
Dat maakt haar verhaal breder dan de bekende discussie over tools, startups en investeringen. Ze kijkt ook naar gezondheid, werk en duurzaamheid. Daar ziet ze toepassingen die echt iets veranderen, juist als AI niet alleen wordt ingezet om sneller te werken, maar ook om beter te leven.
Tegelijk blijft ze kritisch op de manier waarop de sector zichzelf meet. Nu tellen vooral benchmarks die draaien om kennis, logica en prestaties. Volgens haar missen we nog iets essentieels. "We bouwen alleen waar we op meten", zegt ze. Daarom pleit ze voor nieuwe maatstaven, die ook kijken naar de emotionele intelligentie van AI.
Dat is een belangrijk punt, omdat het laat zien waarom veel mooie woorden over "mensgerichte AI" nog weinig effect hebben. Zolang succes alleen wordt afgemeten aan snelheid, juistheid en schaal, blijft empathie bijzaak.
Deze verantwoordelijkheid ligt nu overal, en daardoor ook nergens
Een van de spannendste lijnen in de sessie gaat over verantwoordelijkheid. El Kaliouby zegt dat we daar allemaal een rol in hebben. Als gebruiker, als investeerder, als maker. "We hebben allemaal een verantwoordelijkheid", zegt ze, omdat we elke dag kiezen welke tools we gebruiken en welke bedrijven we steunen.
Dat is waar, maar in deze keynote schuurt dat ook. Want juist als iedereen verantwoordelijk is, dreigt verantwoordelijkheid vaag te worden. Dan ontstaat het risico dat niemand echt aan zet is.
De sessie geeft daar deels zelf antwoord op. El Kaliouby maakt namelijk ook duidelijk waar echte macht zit: bij de mensen die systemen bouwen, financieren en uitrollen. Zij stelt dat ze als investeerder kritisch kijkt naar vragen rond bias, privacy, veiligheid en gebruik. Als oprichters daar niet serieus over nadenken, stapt zij niet in.
Daarmee wordt haar verhaal sterker. Mensgerichte AI vraagt niet alleen om bewust gebruik, maar vooral om duidelijke keuzes van mensen met invloed. Van oprichters. Van investeerders. Van grote techbedrijven. Van leiders die bepalen wat er wordt gebouwd en waarom.
De mens moet niet slimmer worden dan AI, maar wijzer
Misschien het meest interessante deel van de keynote gaat over wat de mens dan nog toevoegt in een tijd waarin AI steeds slimmer oogt. El Kaliouby sluit zich aan bij een uitspraak van Arianna Huffington dat AI best intelligenter mag worden dan mensen, zolang mensen zelf iets anders verdiepen: wijsheid, intuïtie en innerlijk kompas.
El Kaliouby zegt dat ook zelf heel treffend. Ze wil dat we als mens "verdubbelen op wat ons uniek menselijk maakt". Ze noemt intuïtie en lichamelijke signalen als vormen van intelligentie waar we nu vaak van losgeraakt zijn. Dat is een opvallende gedachte op een techpodium, maar juist daarom blijft die hangen.
Ze zet daarmee een ander mensbeeld neer. Niet de mens als rekenmachine die moet concurreren met AI, maar de mens als sociaal, voelend en belichaamd wezen. Daar zit volgens haar geen zwakte, maar juist onze onderscheidende kracht.
Verantwoording: dit verslag is een combinatie van zelf geschreven tekst en tekst van ChatGPT op basis van het transcript van de sessie. Hier kun je lezen hoe ik te werk ga.