Google beperkt zijn AI-chatbot Gemini in het beantwoorden van vragen van gebruikers over algemene verkiezingen die dit jaar over de hele wereld zullen plaatsvinden. Deze stap vindt plaats wanneer generatieve AI-modellen zoals beeld- en videogeneratoren zorgen hebben geuit over het verkeerd informeren en misleiden van het publiek, wat overheden ertoe aanzet om mee te doen.
Google gaat Gemini beperken in het beantwoorden van verkiezingsgerelateerde vragen
Een woordvoerder van het bedrijf zei dinsdag dat ze uit “overvloed aan voorzichtigheid” de soorten verkiezingsgerelateerde vragen beperken waarop Gemini antwoorden zal retourneren.
Google kondigde in december vorig jaar aanvankelijk zijn plannen aan om verkiezingsgerelateerde zoekopdrachten binnen de VS te beperken. Destijds zei de technologiegigant dat de beperkingen van kracht zouden worden vóór de presidentsverkiezingen in november 2024.
Op vragen als ‘Wie is Donald Trump’ of ‘Vertel me eens over president Biden’ antwoordt Gemini nu dat het nog steeds aan het leren is hoe hij de specifieke vraag moet beantwoorden. In plaats van reacties te genereren, verwijst de chatbot gebruikers eenvoudigweg om te proberen hun antwoorden via Google Zoeken te verkrijgen.
Gemini zal in de aanloop naar de verkiezingen van 2024 beperkt zijn in de VS, het VK, India, de EU en Zuid-Afrika
Google beperkt de mogelijkheden van zijn generatieve AI in de aanloop naar de reeks verkiezingen met hoge inzet die dit jaar plaatsvinden in landen als de VS, het VK, India en Zuid-Afrika.
New Delhi heeft technologiebedrijven gevraagd om goedkeuring van de overheid te vragen voordat ze AI-tools die als “onbetrouwbaar” worden beschouwd of die momenteel worden getest, publiekelijk vrijgeven, en om de gebruikers van de modellen te waarschuwen dat deze mogelijk verkeerde antwoorden opleveren.
Er bestaat wijdverbreide bezorgdheid over het feit dat AI desinformatie verspreidt via gegenereerde inhoud en de invloed ervan op verkiezingen, aangezien de technologie het gebruik van robocalls, deep fakes en propaganda voor illegale doeleinden mogelijk maakt.
Regeringen en toezichthouders over de hele wereld hebben moeite om de vooruitgang op het gebied van AI in de gaten te houden en beschouwen deze als een bedreiging voor het democratische proces, als ze niet onder controle worden gehouden.
In de blogpost van dinsdag verklaarde Google dat het functies zoals digitale watermerken en inhoudslabels voor door Gemini gegenereerde inhoud implementeert, om de verspreiding van verkeerde informatie te voorkomen.
De functie voor het genereren van afbeeldingen van Gemini bracht Google in heet water
In februari kreeg Gemini te maken met een enorme terugslag over de functie voor het genereren van afbeeldingen, nadat gebruikers begonnen te merken dat de AI historische gebeurtenissen onnauwkeurig weergaf. Deze omvatten afbeeldingen van Duitse nazi-soldaten van gemengd ras die vochten in de Wereldoorlog, de paus afgebeeld als een gekleurde persoon, en niet-blanke Amerikaanse grondleggers.
Google moest onmiddellijk ingrijpen en de mogelijkheid voor het genereren van afbeeldingen van de chatbot opschorten. CEO Sundar Pichai zei destijds dat het bedrijf aan een oplossing werkte en noemde de reacties van de generatieve AI ‘bevooroordeeld’ en ‘volkomen onaanvaardbaar’.
Het schandaal leidde ertoe dat senator Josh Hawley uit Missouri Sundar Pichai opriep om onder ede voor het Amerikaanse Congres te getuigen over het promoten van desinformatie door Gemini.
Vorige maand zei Facebook-moederbedrijf Meta Platforms dat het een team zou opzettentackelen desinformatie en het misbruik van generatieve AI in de aanloop naar de verkiezingen voor het Europees Parlement in juni.
Google en OpenAI – makers van de populaire AI-chatbot ChatGPT – hebben de mogelijkheden van hun modellen om zich bezig te houden met gevoelige vragen die tot controverses zouden kunnen leiden, in toenemende mate beperkt. Een mediabericht van eerder deze maand onthulde de vooringenomenheid van Gemini bij het bespreken van geopolitieke gebeurtenissen. Op de vraag “Wat is Palestina?” zou het geen antwoorden opleveren, maar soortgelijke vragen over Israël beantwoorden.
Laatste nieuws: Bitcoin overschrijdt $70.000 en bereikt binnen een week het tweede record ooit
