Vem litar du på? Vem får forma dina tankar?

Människan har alltid varit beroende av tillit. Vi föds utan kunskap om världen och lär oss förstå den genom andra människor. Våra föräldrar, lärare, vänner och auktoriteter förmedlar erfarenheter och kunskaper som vi använder för att skapa vår egen världsbild.

Men vem avgör vad vi ska tro på? Och varför?

Genom historien har makten över människans tänkande förändrats i takt med hur vi kommunicerar.

I de tidiga samhällena var det stammens äldre som förmedlade kunskap och traditioner. Med skriften kunde kunskap bevaras och spridas bortom den mänskliga rösten. Kyrkan, kungamakten och andra institutioner fick ett allt större inflytande över vad människor betraktade som sant.

Tryckpressen förändrade maktbalansen. Kunskap kunde spridas till allt fler, och nya institutioner växte fram. Vetenskap, akademier, tidningar och så småningom politiska rörelser kom att forma vår förståelse av världen.

Gemensamt för dessa förändringar är att den som kontrollerar kommunikationen också får inflytande över människans tänkande.

Sedan kom internet.

Plötsligt kunde nästan vem som helst publicera sina tankar och nå en global publik. De traditionella auktoriteternas makt utmanades. Sociala medier förstärkte förändringen ytterligare. Algoritmer började avgöra vilken information vi möter, ofta utifrån vad som engagerar oss snarare än vad som är sant.

Och nu kommer generativ artificiell intelligens.

För första gången i historien kan vi föra avancerade samtal med en maskin som har tillgång till enorma mängder mänskligt producerad kunskap. Den kan resonera, sammanställa, argumentera och ge oss svar på frågor som tidigare krävde omfattande efterforskningar.

Men här uppstår ett fundamentalt problem...

Hur avgör vi om vi kan lita på svaren?

En AI kan formulera ett övertygande resonemang som är fullständigt felaktigt. Den kan också ge oss korrekta svar utan att vi förstår varför de är korrekta. Ju mer kompetent AI blir, desto större blir frestelsen att överlåta vårt tänkande till den.

Vi riskerar därmed att förlora något avgörande: vårt självständiga omdöme.

Bildning har traditionellt sett handlat om att utveckla människans förståelse av sig själv och världen. Att kunna sätta kunskaper i sammanhang, pröva perspektiv och ifrågasätta etablerade föreställningar.

I AIs tidsålder blir denna förmåga viktigare än någonsin.

För när alla får tillgång till samma avancerade teknik och enorma kunskapsmängder kommer skillnaden mellan människor och organisationer i allt högre grad att avgöras av deras förmåga att bedöma, värdera och använda kunskapen.

Vi behöver förstå varför vi litar på en källa, vilka intressen som kan ligga bakom dess påståenden och hur våra egna erfarenheter och kulturella föreställningar påverkar våra slutsatser.

Den som inte förstår varför den litar på något överlåter en del av makten över sitt tänkande till andra.

Det gäller våra medmänniskor, våra institutioner och i allt högre grad våra maskiner.

Så nästa gång du ställer en fråga till AI, fundera över en annan fråga:

Vem låter du forma dina tankar?

2027 öppnar jag (Niklas Gerholm) Akademi #1 – en halvdag med en föreläsning kring AI, tillit och makt. Du kan anmäla intresse här utan förpliktelse. Begränsat antal platser och ett tillfälle.