Google komt je foto's stelen, eh... gebruiken

Update onderaan

Google heeft een nieuwe functie uitgerold voor gebruikers van Google Photos. De update, onderdeel van wat het bedrijf "Personal Intelligence" noemt, geeft de AI-assistent Gemini toegang tot de volledige fotobibliotheek van gebruikers. Daarmee kan de AI gezichten herkennen, relaties in kaart brengen en gepersonaliseerde afbeeldingen genereren op basis van bestaande foto's. Dat meldt Forbes.

Het techbedrijf, dat in een ver verleden de slogan "Don't be evil" hanteerde, presenteert de functie als "een verbetering van de gebruikerservaring". Na de update kan Gemini zelfstandig door je complete fotobibliotheek zoeken om "echte beelden van jou en je dierbaren" te gebruiken bij het genereren van nieuwe afbeeldingen. Google beweert dat de modellen niet direct getraind worden op privéfoto's, maar erkent tegelijkertijd wel dat de verzamelde informatie wel wordt ingezet om de AI-tool te "verbeteren".

Privacyorganisaties en critici maken zich zorgen over de toepassing van de nieuwe functie. De fotobibliotheek van een doorsnee gebruiker bevat tienduizenden beelden met gevoelige informatie: van medische situaties en beelden van minderjarigen, tot intieme momenten. De update is nu alleen nog uitgerold in de Verenigde Staten, later dit jaar volgen andere landen, waaronder de EU.

Update 20-4 08:50

Zakenblad Forbes heeft een reactie van Google toegevoegd waarin de zoekgigant stelt dat privéfoto's niet rechtstreeks gebruikt worden. Het magazine ziet toch een addertje onder het gras:

Google verzekert dat "het toevoegen van persoonlijke gegevens aan je afbeeldingen geen inbreuk op je privacy mag betekenen, en daarom zijn onze kernwaarden niet veranderd. De Gemini-app traint zijn modellen niet rechtstreeks op je privé Google Foto's-bibliotheek." Google zegt echter wel: "We trainen met beperkte informatie, zoals specifieke prompts in Gemini en de reacties van het model, om de functionaliteit in de loop van de tijd te verbeteren." Daarom blijft "het koppelen van je Google-apps aan Gemini een opt-in-functie die je op elk moment in je instellingen kunt aanpassen." Het is niet voor niets een opt-in-functie. Houd dat in gedachten.

Forbes wijst fijntjes op een uitspraak van een Gmail-topman:

"Er gebeurt tegenwoordig ontzettend veel op het gebied van AI", erkende Blake Barnes, vicepresident productontwikkeling bij Gmail, in een recente update voor gebruikers. "Soms kan het zelfs overweldigend aanvoelen." Inderdaad. Begin er niet zomaar aan voordat je er helemaal zeker van bent.