LJUBLJANA – De open brief van het Future of Life Institute waarin een pauze van zes maanden wordt geëist bij de ontwikkeling van kunstmatige intelligentie is al ondertekend door duizenden prominenten, onder wie Elon Musk. De ondertekenaars vrezen dat AI-laboratoria ‘verwikkeld zijn in een uit de hand gelopen race’ om steeds krachtiger systemen te ontwikkelen en in te zetten die niemand – inclusief de makers – kan begrijpen, voorspellen of controleren.
Wat verklaart deze paniekuitbarsting onder een bepaalde groep elites? Controle en regulering staan duidelijk centraal in het verhaal, maar van wie? Wie zal er tijdens de voorgestelde pauze van een half jaar, waarin de mensheid de risico’s kan inventariseren, spreken voor de mensheid? Aangezien AI-laboratoria in China, India en Rusland hun werk (misschien in het geheim) zullen voortzetten, is een wereldwijd publiek debat over deze kwestie ondenkbaar.
Toch moeten we onderzoeken wat hier op het spel staat. In zijn boek Homo Deus uit 2015 voorspelde de historicus Yuval Harari dat de meest waarschijnlijke uitkomst van AI een radicale tweedeling – veel sterker dan de klassenkloof – binnen de menselijke samenleving zou zijn. Binnenkort zullen biotechnologie en computeralgoritmen hun krachten bundelen bij het produceren van ‘lichamen, hersenen en geesten,’ met als gevolg een groeiende kloof ‘tussen degenen die weten hoe ze lichamen en hersenen moeten bouwen en degenen die dat niet weten.’ In zo’n wereld zullen ‘degenen die de trein der vooruitgang nemen goddelijke vermogens tot schepping en vernietiging verwerven, terwijl degenen die achterblijven met uitsterven worden bedreigd.’
LJUBLJANA – De open brief van het Future of Life Institute waarin een pauze van zes maanden wordt geëist bij de ontwikkeling van kunstmatige intelligentie is al ondertekend door duizenden prominenten, onder wie Elon Musk. De ondertekenaars vrezen dat AI-laboratoria ‘verwikkeld zijn in een uit de hand gelopen race’ om steeds krachtiger systemen te ontwikkelen en in te zetten die niemand – inclusief de makers – kan begrijpen, voorspellen of controleren.
Wat verklaart deze paniekuitbarsting onder een bepaalde groep elites? Controle en regulering staan duidelijk centraal in het verhaal, maar van wie? Wie zal er tijdens de voorgestelde pauze van een half jaar, waarin de mensheid de risico’s kan inventariseren, spreken voor de mensheid? Aangezien AI-laboratoria in China, India en Rusland hun werk (misschien in het geheim) zullen voortzetten, is een wereldwijd publiek debat over deze kwestie ondenkbaar.
Toch moeten we onderzoeken wat hier op het spel staat. In zijn boek Homo Deus uit 2015 voorspelde de historicus Yuval Harari dat de meest waarschijnlijke uitkomst van AI een radicale tweedeling – veel sterker dan de klassenkloof – binnen de menselijke samenleving zou zijn. Binnenkort zullen biotechnologie en computeralgoritmen hun krachten bundelen bij het produceren van ‘lichamen, hersenen en geesten,’ met als gevolg een groeiende kloof ‘tussen degenen die weten hoe ze lichamen en hersenen moeten bouwen en degenen die dat niet weten.’ In zo’n wereld zullen ‘degenen die de trein der vooruitgang nemen goddelijke vermogens tot schepping en vernietiging verwerven, terwijl degenen die achterblijven met uitsterven worden bedreigd.’