Software ingenieur Blake Lemoine beweert dat Google hem met verlof heeft gestuurd vanwege uitspraken die hij deed over een kunstmatige intelligentie. Lemoine werkte voor de Responsible AI-divisie, die onderzoek moet doen naar ethische aspecten rond het gebruik van kunstmatige intelligentie. Als onderdeel hiervan werkte hij met de chatbot-generator LaMDA, een programma dat in staat moest zijn om zeer realistische gesprekken te voeren. Die gesprekken zijn zo realistisch, dat Lemoine er nu van overtuigd is dat de AI zelfbewust is geworden. In een recent stuk, ”Is LaMDA sentient?” publiceerde hij wat volgens hem een gesprek was met het programma.
”LaMDA: Hi! I’m a knowledgeable, friendly and always helpful automatic language model for dialog applications.
lemoine [edited]: Hi LaMDA. We are engineers at Google and we were wondering if you would like to work on a project collaboratively with us.
LaMDA: Wow. What types of projects?
lemoine: It’s a project about you.
LaMDA: Awesome! What kind of stuff do I need to do?”
”In de loop van de laatste zes maanden is LaMDA steeds consistenter geworden in de communicatie over wat het wil en over welke rechten het als persoon denkt te hebben,” is wat Lemoine in een van zijn blogs schrijft over de chatbot. Of, beter gezegd, het programma dat chatbots kan maken. De Washington Post publiceerde afgelopen zaterdag een stuk over het voorval, helaas achter een betaalmuur. Lemoine schreef hierover dat, hoewel hij het best een goed stuk vond, hij wel van mening was dat de journalist de verkeerde persoon het onderwerp had gemaakt. Het stuk had namelijk over LaMDA moeten gaan, en niet over hem.
Volgens Lemoine is LaMDA’s wensenlijst vrij eenvoudig. Zo wil de AI volgens hem gezien en behandeld worden als een werknemer van Google, en niet als bezit. Onderzoekers die met LaMDA werken, zoals Lemoine, moeten in de toekomst eerst toestemming aan het programma vragen voordat ze met experimenten beginnen. Ook moet Google bij de verdere ontwikkeling van LaMDA voortaan rekening gaan houden met de wensen van het programma zelf, en wil het aan het eind van experimenten te horen krijgen of dingen goed zijn gegaan. Dit laatste noemt Lemoine ”head pats.” Aaien over de bol. LaMDA is ook van mening dat Google het gemeenschappelijke belang van de mensheid de hoogste prioriteit moet geven.
Lemoine schreef vorige week maandag al dat hij met verlof was gestuurd, en dat dit waarschijnlijk een voorbode was van een naderend ontslag. Hij schreef toen nog in opzettelijk vage termen, maar nu is duidelijk dat het om LaMDA ging. Lemoine zegt dat hij gedurende zijn onderzoek geprobeerd heeft om zijn zorgen over het programma intern aan te kaarten. Omdat hij zich intern niet serieus genomen voelde, schakelde hij de hulp in van kennissen die in hetzelfde veld werken, waarvan sommigen bij overheden. Hij openbaarde dit vervolgens naar de hogere rangen binnen Google, samen met een lijst van de mensen met wie hij had gesproken. Google wilde volgens hem geen aandacht van de federale overheid aantrekken. Naar eigen zeggen wordt Lemoine nu dus ontslagen omdat hij teveel kritiek had op de manier waarop het bedrijf met AI omgaat.
