Even om wat te delen met mensen die zich niet op de hoogte houden van de dingen rondom KI. Dit is wat ik de afgelopen weken heb bijgeleerd over terminologie bij KI (de Volkskrant van 20 januari)

AGI: Artificial General Intelligence; een vorm van AI die de mens op (bijna) alle vlakken overstijgt, P(doom); de kans dat AI de mensheid vernietigd, X-risk; existentieel risico als gevolg van de komst van AI, het ultieme risico, het verdwijnen van de mensheid, AI-pocalyps; het idee dat de mens naar de afgrond stevent als gevolg van de komst van AGI, Effectief altruïsme (EA); beweging die maximaal goed wil doen. Omdat veel EA’ers geloven dat AI het einde van de mensheid betekent, willen ze AI aan banden leggen, Effectief accelerationisme (e/acc), blind geloof in versnelling van de technologie, het tech-optimisme, Posthumanisme, het idee dat de huidige menselijke vorm gelimiteerd is, aanhangers vinden het een logisch gevolg dat een non-biologisch bewustzijn uiteindelijk de mens vervangt, Longtermisme; ethische filosofie die het belang benadrukt van het overwegen van langetermijngevolgen van onze acties en beslissingen, onder AI-ethici vaak ook gebruikt als pejoratief, Tescreal; verzamelnaam van AI-ethici om de invloed van rijke (en problematische) denkbeelden van veel AI-investeerders en ondernemers te duiden (acroniem voor transhumanisme, extropisme, singularisme, cosmisme, rationalisme, effectief altruisme en longtermisme.

En ook nog; De paperclip van Bostrom; hierin stelt de filosoof Bostrom zich een superintelligente AI voor die als taak heeft, zo veel mogelijk paperclips te produceren. De doelstellingen van deze AI kunnen vervolgens in conflict komen met die van de mensheid omdat beide entiteiten strijden om dezelfde grondstoffen. Om zijn taak te volbrengen zou de AI kunnen besluiten de mensheid uit te schakelen. De paperclip van Bostrom staat inmiddels symbool voor het X-risico van AI.