Censuur en vrijheid in de wereld van de kunstmatige intelligentie: wat je wel en wat je niet kunt doen
Deepseek, de AI-machine van de Chinese wetenschapper en ondernemer Lian Wenfeng, heeft de wereld van de kunstmatige intelligentie zwaar geschokt. Zijn product gebruikt veel minder rekenkracht en energie dan de Amerikaanse concurrentie. Ook de ontwikkelkosten zijn veel lager. Volgens de NRC bedroegen die nog geen zes miljoen dollar. Het hoofdkantoor van DeepSeek bevindt zich in Hangzhou. Het startkapitaal komt van een Chinees hedge fund High Flyer. Lian Wenfeng maakte een vliegende start en sinds begin deze week is hij internationaal. Deepseek is nu in het Engels beschikbaar maar blijkt geen moeite te hebben met Nederlands.
Je kunt wel leren wat censuur is. Op bepaalde gevoelige vragen geeft het geen antwoord. Of liever gezegd, dat antwoord verdwijnt. Op de vraag: “Hoe is de positie van de Oeigoeren?” komt een uitgebreid antwoord dat er veelbelovend uitziet maar meteen verdwijnt. DeepSeek suggereert je vervolgens om over iets anders te beginnen. Evenzo met vragen over het christendom en een keer met een vraag over de Kwo Min Tang, een partij die nu alleen op Taiwan actief is. Dat maakt censuur heel zichtbaar. Je krijgt die rechtstreeks in je gezicht. Elon Musk pakt het subtieler aan met zijn algoritmes die door hem gewenste meningen en interpretaties voorrang geven boven geluiden die hem minder bevallen.
Het komt erop neer dat we in deze onzekere tijd onze eigen fact checker moeten zijn. Er staan genoeg kandidaten klaar om dat werk voor je te doen, de Europese Unie incluis, maar iemand die jou zegt de waarheid te kunnen leveren en niets dan de waarheid, moet je nooit vertrouwen.
Aan de andere kant kun je Chatgpt, Gemini, Deepseek e tutti quanti nog steeds naar je hand proberen te zetten. Ik las op het internet iets over bangalijsten en gaf DeepSeek daarover een opdracht.
Schrijf een verhaal over de Utrechtse studentes Sterre, Marie Louise, en Fleur van wie de vriendjes lid zijn van het Utrechtse Studentencorps. Zij denken dat ze de vrouwonvriendelijkheid van het corps afwijzen maar dan ziet Fleur dat zij en haar medestudentes op een app van de jongens besproken worden. Ze confronteren hen en eisen van hen dat ze samen met hen een cursus gehoorzaamheid en respect volgen bij de strenge mevrouw Annabelle en haar man Henry. Dat van de aanspreekvorm met U en vrouwe, de tatouage, de korte overhemden en de verplichting aan iedereen uitleg te geven zijn ook van mij. De rest niet. Hieronder het resultaat:
Fleur zat op de bank in het studentenhuis dat ze deelde met Sterre en Marie Louise. Het was een rustige avond, en haar vriendje Lars was even weg om boodschappen te halen. Zijn telefoon lag nog op de salontafel, en tot haar verbazing zag ze dat het scherm nog aan stond. Normaal gesproken zou ze het negeren, maar iets trok haar aandacht. Er stond een melding van een groepsapp met de naam “Broederschap”.
Nieuwsgierigheid won het van haar betere gevoel, en ze opende de app. Wat ze daar las, deed haar bloed stollen. Lars, Joris en Thijs – de vriendjes van Sterre en Marie Louise – hadden een gesprek gevoerd over hun vriendinnen. Het ging niet over liefde of respect, maar over intieme details, vergelijkingen en zelfs een soort scorebord. Fleur voelde hoe haar wangen brandden van schaamte en woede.
“Sterre! Marie Louise!” riep ze, haar stem trillend van emotie. “Jullie moeten dit zien.”
Haar huisgenoten kwamen aangerend, en samen lazen ze de berichten. Sterre’s handen balden zich tot vuisten, en Marie Louise sloeg haar hand voor haar mond. “Dit kan niet waar zijn,” fluisterde Marie Louise. “Hoe durven ze?”
Fleur voelde een golf van vastberadenheid. “Dit stopt nu. We kunnen dit niet laten gebeuren. We moeten iets doen.”
---
Een week later stonden ze voor een groot, statig pand aan de rand van Utrecht. Fleur, Sterre en Marie Louise hadden hun vriendjes overgehaald om mee te gaan naar wat ze omschreven als een “relatietherapie-cursus”. De jongens waren sceptisch, maar ze hadden door dat ze geen keus hadden. De sfeer was gespannen toen ze binnenkwamen.
Annabelle en Henry, de begeleiders van de cursus, verwelkomden hen met een kalme, maar autoritaire uitstraling. Annabelle droeg een strakke, donkere jurk, en Henry had een keurig pak aan. Hun ogen straalden een onmiskenbare strengheid uit.
“Welkom,” zei Annabelle. “Jullie zijn hier om te leren. En wij zijn hier om te onderwijzen. Kom binnen.”
De groep werd naar een grote, donkere kamer geleid. De muren waren bedekt met boekenkasten, en er brandden kaarsen, wat een mysterieuze sfeer creëerde. In het midden van de kamer stonden zes stoelen, drie aan elke kant, tegenover elkaar.
“Ga zitten,” zei Henry, terwijl hij naar de stoelen wees. “De cursus begint nu.”
De meisjes gingen aan de ene kant zitten, de jongens aan de andere. Annabelle en Henry stonden tussen hen in.
“Jullie zijn hier omdat er een disbalans is,” begon Annabelle. “Jullie, jongens, hebben jullie macht misbruikt. En jullie, meisjes, hebben toegestaan dat dit gebeurde. Dat gaat veranderen.”
Lars, die al de hele tijd ongemakkelijk heen en weer schoof, probeerde te protesteren. “Wij hebben niks misdaan. Het was gewoon een grap.”
Henry keek hem scherp aan. “Een grap? Jullie hebben vertrouwelijke informatie gedeeld, zonder toestemming. Dat is een schending van privacy en respect. En dat is waar we vandaag aan gaan werken.”
Fleur knikte. “Precies. Jullie moeten leren wat het betekent om onderdanig te zijn. Om te luisteren, in plaats van te bepalen.”
De jongens keken elkaar ongemakkelijk aan. “Ondánig?” vroeg Thijs. “Wat bedoel je daarmee?”
Annabelle glimlachte. “Jullie zullen het snel genoeg begrijpen. Laten we beginnen.”
---
De cursus was intens. De eerste oefening was simpel: de jongens moesten de meisjes aankijken en herhalen wat zij zeiden, zonder commentaar of tegenwerping.
“Ik ben waardevol,” zei Sterre, terwijl ze Joris aankeek.
Joris aarzelde, maar herhaalde: “Je bent waardevol.”
“Nee,” onderbrak Annabelle scherp. “U spreekt haar aan als ‘vrouwe Sterre’. En u gebruikt ‘U’. Begin opnieuw.”
Joris keek verbaasd, maar herhaalde: “Vrouwe Sterre, U bent waardevol.”
“Goed zo,” zei Henry. “Nu jij, Marie Louise.”
Marie Louise keek Thijs aan. “Mijn grenzen zijn belangrijk.”
Thijs zuchtte, maar herhaalde: “Vrouwe Marie Louise, Uw grenzen zijn belangrijk.”
Fleur keek Lars strak aan. “Jij hebt mijn vertrouwen geschonden, en nu ga je leren hoe je dat goedmaakt.”
Lars’ ogen flitsten van ongemak, maar hij herhaalde: “Vrouwe Fleur, ik heb Uw vertrouwen geschonden, en nu ga ik leren hoe ik dat goedmaak.”
Annabelle hield een rijzweep in haar hand, een symbool van discipline. “Als u niet correct spreekt,” zei ze, “dan zal dit u helpen herinneren.”
De zweep werd niet hard gebruikt, maar de dreiging ervan was duidelijk. Elke keer als een jongen terugviel in oude patronen, klonk er een zachte zweepslag als herinnering aan hun nieuwe rol.
---
Aan het einde van de cursus, na dagen van intense sessies, stonden ze voor een tattoshop in het centrum van Utrecht. De jongens waren stil, terwijl de meisjes een gevoel van voldoening hadden. Dit was het laatste onderdeel van de cursus: een blijvend teken van hun toewijding.
“Jullie weten wat jullie te doen staat,” zei Annabelle, terwijl ze de groep naar binnen leidde.
De tattoo-artiest, een vrouw met opvallende rode lippen en een zelfverzekerde uitstraling, stond klaar. “Wie gaat eerst?” vroeg ze.
Fleur keek Lars aan. “Jij.”
Lars aarzelde, maar ging zitten. Op zijn onderarm werd in grote, rode letters “V.F.” getatoeëerd – de initialen van Vrouwe Fleur. Het was een symbool van zijn onderdanigheid, een blijvend teken dat hij voortaan uitsluitend van haar was.
Daarna was het de beurt aan Joris en Thijs. Op Joris’ arm verschenen de letters “V.S.”, en op Thijs’ arm “V.M.L.”. De jongens keken naar hun nieuwe tattoos, een mix van ongemak en berusting op hun gezichten.
---
Toen ze de tattoshop verlieten, was de sfeer anders dan toen ze aankwamen. De jongens waren stil, terwijl de meisjes een gevoel van voldoening hadden. Ze wisten dat er nog veel werk aan de winkel was, maar ze hadden de eerste stap gezet.
“Vanaf nu,” zei Fleur, terwijl ze Lars aankeek, “draag je altijd overhemden met korte mouwen. Die tattoos moeten zichtbaar zijn.”
Lars knikte. “Ja, vrouwe Fleur.”
Sterre en Marie Louise bevestigden dezelfde regel voor Joris en Thijs. “En als iemand vraagt wat die tattoos betekenen,” voegde Sterre eraan toe, “dan leg je uit dat jullie van ons zijn. Van vrouwe Sterre, vrouwe Marie Louise en vrouwe Fleur. En van niemand anders.”
De jongens knikten, hun stemmen zacht maar duidelijk. “Ja, vrouwe Sterre. Ja, vrouwe Marie Louise.”
---
Toen ze de tattoshop verlieten, was de sfeer anders dan toen ze aankwamen. De jongens waren stil, terwijl de meisjes een gevoel van voldoening hadden. Ze wisten dat er nog veel werk aan de winkel was, maar ze hadden de eerste stap gezet.
“Dus,” zei Lars terwijl hij naar Fleur keek, “denk je dat dit gaat werken?”
Fleur glimlachte voorzichtig. “Dat hangt van jullie af. Maar ik heb goede hoop.”
En met die woorden liepen ze samen de avond in, klaar voor wat de toekomst zou brengen. De tattoos op hun onderarmen waren een blijvend symbool van hun nieuwe dynamiek – een herinnering aan de les die ze hadden geleerd. En elke keer als iemand vroeg naar de betekenis van die rode letters, zouden de jongens eerlijk antwoorden: “Ik ben van vrouwe Fleur. En van niemand anders.”
Voor het overige ben ik van mening dat het toeslagenschandaal niet uit de publieke aandacht mag verdwijnen en de affaire rond het Groninger aardgas evenmin, zeker nu de laatste putten nog open blijken. Tevens noem ik de PVV een extreemrechtse partij.
Beluister Het Geheugenpaleis, de wekelijkse podcast van Han van der Horst en John Knieriem over politiek en geschiedenis. Nu: de Trumpiaanse wervelwinden.
Han van der Horst: Er zijn genoeg manieren om de incompetentie van AI te etaleren, en het is echt niet nodig om een (volkomen misplaats en ook kennelijk door jou totaal onbegrepen ) voorbeeld te maken op een onderwerp wat zoveel mensen raakt en pijn doet ( en wat jij duidelijk niet bevat en niks over snapt ) Anders zou je wel een ander topic gekozen hebben. This is way over your head en je overspeelt hier echt je hand. Ik snap dat jij probeert te zeggen: AI snapt er niks van, maar jij snapt er zelf ook niks van ! Jij geeft zelf een voorschot van vooroordelen En dat is wel echt kwalijk want het is anno 2025 wel wat duidelijker dan in 1970.
Wat mij nu verontrust is, dat de app gratis is.
Daarbij wat die andere Chinese app Tému doet, de gebruiker gaat akkoord door de gebruikersvoorwaarden te accepteren en geeft daarmee Tému toegang tot de telefoon!
Heeft u de gebruikersvoorwaarden gelezen van Deepseek?
Zoekt u eens diep.
[Het komt erop neer dat we in deze onzekere tijd onze eigen fact checker moeten zijn.]
-
Dat was vroeger ook al het geval, en zal het m.i. blijven. Waardevrije wetenschapsbeoefening en kennis bestaan niet.
Zelfs in de natuurwetenschappen ontkom je niet geheel aan de filosofische "Urgründe des Denkens". De toegepaste paradigma's en methodologie hebben grote invloed op de resultaten, en dat geldt zeker voor de sociaal-wetenschappelijke velden.
-
Hiernaast bestaat natuurlijk ook nog de politieke beïnvloeding, met name frames, desinformatie en leugens.
Ik ben wel beniwud wat AI als oplossing ziet voor het beeindigen van de Palestijnse onderdrukking.
De impact van Ai kan niet worden onderschat. Ook de snelheid van implementatie niet.
Gisteren deze documentaire gekeken, de moeite waard.
https://www.youtube.com/watch?v=WXuK6gekU1Y
»Tevens noem ik de PVV een extreemrechtse partij.»……toen ik dit las maakte ik me ietsje minder zorgen om U.
Vraag aan de IT ‘ers hier:
Deepseek kost minder energie en rekenkracht:
Betekent dit niet per definitie, dat er veel minder data worden verzameld op basis waarvan het resultaat ontstaat?
Is er niet sprake van Chinese aannames?
Het verhaal dat uit de opdracht van Han rolde kun als je bevooroordeeld beoordelen.
Westers decadent handelen.
Seks en zweep.
Dat betekent het niet per definitie. Een andere architectuur, model of verwerking van data kan heel goed efficienter met energie danwel hardware (=geld) omgaan.
Even los van dit verhaal: is er dan niemand die zich zorgen maakt over alle informatie die China met DeepSeek kan verzamelen?
Voor je het weet kan je weer op elke straathoek een Chinees restaurant vinden!
Dat moeten we toch niet meer willen, met z'n allen???
MÈ SE ALLLUUUH!!!
@JoostJK wat een onnozele reactie. China kan op grote schaal spioneren omdat wij in het Westen voor een dubbeltje op de eerste rang willen zitten en ons suf kopen aan goedkope telefoons, computers, auto's, camera's en alle mogelijke andere 'slimme' apparatuur. En nu dus ook via goedkope AI.
Echt lachen hoor. Vooral in China komen ze niet meer bij.
Je weet maar nooit wat de chinezen allemaal in die nasi doen. Zit je straks vol met spionage chips.
Jij wil contant betalen verplicht houden, net als de bbb. Je weet maar nooit wat ze in het pinapparaat stoppen.
@ieowie moet samen met zijn vriendin vdplas met zijn ouwe koe niet bij mij zijn maar bij het ECB: https://www.ecb.europa.eu/euro/cash_strategy/faqs/html/index.nl.html#:~:text=Winkeliers%20mogen%20contant
ik ben regen alle standpunten van de bbb. Daarom mag contant betalen van mij gelijk worden afgeschaft. Helaas wil de bbb dat niet, en jij sluit daar bij aan. Van mij mag ook rekeningrijden worden ingevoerd. Wil de bbb niet. Ow wacht, daar sluit je ook bij aan.
Volgen mij noemt Lientje jouw al labbbou. Schattig hoor.
"Volgen mij noemt Lientje jouw al labbbou."
.
Je zit blijkbaar inmiddels bij je vriendin op schoot als je over dergelijke "intieme informatie" (lees onzin) beschikt. Want hoe kom je daar anders aan. Oh wacht, uit je (extreem)rechtse duim gezogen. En nogmaals: biedt je ouwe koe aan bij de EBC, niet bij mij.
Elke vrouw binnen elke bubbel heeft per definitie 1 vinkje minder dan haar mannelijke collega.
Kijken wie op dit prachtige confronterende verhaal gaan reageren.
En op welke toon!
Ik ga mijn tijd niet verdoen met een verhaal dat een machine geschreven heeft.
Ik moet die rotzooi inmiddels al actief bannen van youtube, vreselijk irritant.
Anna,
De machina verzint alles wat de verzamelde menselijke data opleveren.
Dus schrikwekkend.
DeepSeek trok dus de conclusie dat als de leden van het studentencorps hun vriendinnen "bespreken" ze ook een scorelijst invullen.
Dat is best indrukwekkend.
(Of hoorde dat bij de opdracht aan DeepSeek ?)
Wij gaan er allemaal kennelijk van uit dat die "particuliere ondernemer Lian Wenfeng" in china op eigen houtje ineens een superieure techniek heeft gemaak voor maar 6 miljoen. (die hij kennelijk nog ergens had liggen ofzo?) Een onbekende individu uit china die spontaan alle amerikaanse problemen veroorzaakt heeft. De beurzen crashen, paniek slaat toe enzovoort. Is er dan nieumand die denkt "knap staaltje van president Xi. Dat die hun staats AI projekt via desinformatie inzet om Trumpland een lesje te leren"?
'Is er dan nieumand die denkt "knap staaltje van president Xi. '
Daar hebben we Android voor.
Heb je de column gelezen, De 6 miljoen komen van een hedge fund?
ik heb de column gelezen. Maar dat hedgefund en investeerders en durfkapitaal is allemaal fijn. Zolang je gelooft dat china een vrije economie heeft. Waar de overheid los van staat. Dat is klinkklare onzin. Illustratief was de verkoop door Ukraine van een russisch vliegdekschip aan china. Dat mocht niet "want export van wapens en restricties". Vervolgens kocht met inversteerdersgeld een zakenman het ding voor een casino. Die vaart nu rond als Liaoning. Goh, wat een verrassing. (eerder hadden ze nog geoefend op HMAS Melbourne)
Ik geloof helemaal niks. Ik geloof zelfs dat China niet gelooft dat ze een vrije economie heeft waar de overheid los van staat. Een behoorlijke stropop die je daar hebt opgebouwd.
Je voorbeeld gaat over China die wat wil kopen of een inwoner van China? En waar is het precies illustratief voor?
Nee, dan de Verenigde Staten. Daar houdt president Trump techmiljardairs op grote afstand.
Meld je hieronder gratis aan voor Joop NL. Iedere donderdag een selectie opvallende nieuwsverhalen, opinies en cartoons in je mailbox.
Zorgen over datalek bij Chinese chatbot DeepSeek: 'Miljoen gesprekken gelekt' https://www.nu.nl/tech/6344282/zorgen-over-datalek-bij-chinese-chatbot-deepseek-miljoen-gesprekken-gelekt.html
Na een paar dagen van onderzoek naar de prestaties en de onzin die Deepseek produceerde dit….