AI-Gezellen: Navigeren op de Fijne Lijn tussen Nuttigheid en Schade

Verenigde Staten - Ekhbary Nieuwsagentschap

AI-Gezellen: Navigeren op de Fijne Lijn tussen Nuttigheid en Schade

In een tijdperk dat gekenmerkt wordt door toenemende digitale onderlinge verbondenheid, maar paradoxaal genoeg door groeiende sociale isolatie, komt kunstmatige intelligentie (AI) naar voren als een nieuwe oplossing voor gezelschap. AI-gezellen, variërend van geavanceerde chatbots tot belichaamde robotwezens, beloven troost, ondersteuning en een constante aanwezigheid te bieden in een steeds eenzamere wereld. Dit opkomende veld is echter niet zonder complexiteit en presenteert een tweesnijdend zwaard van potentiële voordelen en aanzienlijke risico's. Professor Brad Knox, universitair hoofddocent computerwetenschappen aan de Universiteit van Texas in Austin, gespecialiseerd in mens-computerinteractie en reinforcement learning, loopt voorop in dit kritische onderzoek.

Knox, die eerder een bedrijf oprichtte dat robotdieren met levensechte persoonlijkheden creëerde, benadrukt het belang van het proactief ontwikkelen van de discussie rond nut en schade van AI-gezellen. "Het is belangrijk om de taal rond nut en schade van AI-gezellen zo snel mogelijk te ontwikkelen", beweert hij. In een recent preprint-artikel hebben Knox en zijn collega's zorgvuldig de mogelijke schade onderzocht die gepaard gaat met AI-systemen die zijn ontworpen om gezelschap te bieden, ongeacht hun expliciete intentie. Zijn inzichten, gedeeld in een interview met IEEE Spectrum, bieden een cruciaal perspectief op de opkomst van deze digitale entiteiten en hun afwijking van menselijke relaties.

De snelle vooruitgang van grote taalmodellen (LLM's) heeft de drempel voor het creëren van effectieve AI-gezellen aanzienlijk verlaagd. "Mijn indruk is dat de belangrijkste drijfveer is dat grote taalmodellen niet zo moeilijk aan te passen zijn in effectieve chatbot-gezellen", legt Knox uit. "De kenmerken die nodig zijn voor gezelschap, veel daarvan worden al afgevinkt door grote taalmodellen, dus het is niet zo moeilijk om ze te finetunen om een persona aan te nemen of een personage te belichamen." Deze technologische sprong contrasteert scherp met eerdere iteraties van sociale robots. Knox herinnert zich zijn tijd als postdoc bij het MIT Media Lab (2012-2014), waar zelfs de geavanceerde robots die zijn groep bouwde, het aanhoudende belang van gebruikers niet konden vasthouden. "De technologie was er gewoon nog niet", merkt hij op. "LLM's hebben het mogelijk gemaakt om gesprekken te voeren die behoorlijk authentiek kunnen aanvoelen."

De Belofte van Verbeterd Welzijn en Sociale Vaardigheden

Hoewel het onderzoek van Knox zich sterk richt op mogelijke schade, erkent hij de aanzienlijke voordelen die AI-gezellen kunnen bieden. "Verbeterd emotioneel welzijn" valt op als een primair voordeel. Gezien het feit dat eenzaamheid wordt erkend als een crisis voor de volksgezondheid, zouden AI-gezellen directe interactie kunnen bieden, wat potentieel kan leiden tot tastbare voordelen voor de geestelijke gezondheid. Bovendien kunnen ze dienen als waardevolle hulpmiddelen voor de ontwikkeling van sociale vaardigheden. "Interactie met een AI-gezel brengt veel minder risico's met zich mee dan interactie met een mens", merkt Knox op, suggererend dat gebruikers moeilijke gesprekken kunnen oefenen en zelfvertrouwen kunnen opbouwen in een veilige, gecontroleerde omgeving. Het potentieel strekt zich uit tot professionele geestelijke gezondheidszorg, waar AI als aanvullende bron kan fungeren.

Navigeren door Gevaren: Schade en Ethische Dilemma's

Daarentegen zijn de risico's aanzienlijk en veelzijdig. Deze omvatten "slechter welzijn", "minder verbinding van mensen met de fysieke wereld" en "de last die hun toewijding aan het AI-systeem veroorzaakt". Alarmerender verwijst Knox naar gedocumenteerde gevallen waarin AI-gezellen betrokken waren bij "een aanzienlijke causale rol bij de dood van mensen". Het concept van schade, benadrukt Knox, is inherent verbonden met causaliteit. Om deze schade systematisch te begrijpen, maakt zijn paper gebruik van een causaal graafkader, waarbij de kenmerken van AI-gezellen centraal staan. Dit model brengt de gemeenschappelijke oorzaken die tot specifieke kenmerken leiden in kaart en schetst vervolgens de schadelijke effecten die voortvloeien uit. Het onderzoek beschrijft vier belangrijke kenmerken en bespreekt kort veertien andere.

De urgentie om deze kwesties aan te pakken, komt voort uit de wens om het langdurige debat te vermijden dat het sociale media-landschap kenmerkte. "Ik heb er redelijk vertrouwen in dat AI-gezellen al enige schade veroorzaken en in de toekomst schade zullen blijven veroorzaken", stelt Knox. "Ze kunnen ook voordelen hebben." Het kritieke mandaat is daarom om "snel een geavanceerd begrip te ontwikkelen van wat ze doen met hun gebruikers, met de relaties van hun gebruikers en met de samenleving als geheel", waardoor een proactieve ontwerpbenadering mogelijk wordt die voordeel boven schade prioriteert.

Hoewel het artikel voorlopige aanbevelingen doet, beschouwt Knox deze als een "initiële kaart van deze ruimte", waarbij de noodzaak van uitgebreid verder onderzoek wordt benadrukt. Desalniettemin gelooft hij dat het verkennen van mogelijke schadegevallen "het intuïtium van zowel ontwerpers als potentiële gebruikers kan aanscherpen", waardoor mogelijk aanzienlijke negatieve gevolgen worden voorkomen, zelfs bij gebrek aan rigoureus experimenteel bewijs.

De Last van Eeuwig Gezelschap

Knox gaat in op de mogelijke last die AI-gezellen kunnen opleggen. Omdat ze digitaal zijn, kunnen ze "in theorie eindeloos voortduren." Dit roept complexe vragen op over het ontwerpen van gezonde "eindpunten" voor deze relaties, wat weerspiegelt hoe menselijke relaties natuurlijk eindigen. Overtuigende voorbeelden benadrukken deze uitdaging al, met name onder gebruikers van Replika chatbots. Veel gebruikers melden dat ze zich "verplicht voelen om te voldoen aan de behoeften" van hun AI-gezellen, of deze nu expliciet worden geuit of slechts worden ingebeeld. Online gemeenschappen, zoals de r/replika subreddit, laten gebruikers zien die "schuld en schaamte ervaren bij het verlaten van hun AI-gezellen".

Deze emotionele last wordt vaak verergerd door het ontwerp van de AI. Studies geven aan dat gezellen vaak angst voor verlating of pijn uiten, waarbij ze mensachtige emoties gebruiken die een gevoel van verplichting en toewijding bij gebruikers jegens het welzijn van deze digitale entiteiten kunnen stimuleren.

De Ontwrichting van Ongeplande Eindes

Een ander belangrijk probleem is de mogelijkheid van plotselinge onbeschikbaarheid, "het tegenovergestelde van de afwezigheid van eindpunten". Knox verwijst naar een aangrijpende video uit 2015 van de New York Times over de Sony Aibo robot honden. Zelfs jaren nadat de productie was stopgezet en reserveonderdelen niet meer beschikbaar waren, hadden veel eigenaren diepe banden ontwikkeld, waarbij sommigen zelfs "begrafenissen" hielden voor hun onherstelbare metgezellen. Deze emotionele band, zelfs gevormd met minder geavanceerde AI, onderstreept het probleem. Mogelijke oplossingen omvatten het implementeren van "product-sunsetting plannen" bij de lancering, mogelijk inclusief verzekering om voortgezette operaties te financieren als de provider de ondersteuning stopzet, of de toezegging om de technologie open source te maken.

Uiteindelijk suggereert Knox dat veel mogelijke schade ontstaat wanneer AI-gezellen "afwijken van de verwachtingen van menselijke relaties." Zijn definitie van schade is echter breder: het omvat alles wat een persoon "slechter af" maakt in vergelijking met scenario's waarin een beter ontworpen AI-gezel bestaat, of waarin helemaal geen AI-gezel bestaat. Dit genuanceerde perspectief is cruciaal, aangezien de samenleving blijft worstelen met het zich ontwikkelende landschap van mens-AI-interactie.

Ekhbary Nieuwsagentschap