Google (GOOG, GOOGL) heeft woensdag een hele reeks nieuwe generatieve AI-functies geïntroduceerd in zijn uitgebreide ecosysteem van producten als onderdeel van zijn I/O-conferentie. afgelopen jaar en zijn gebruikers en investeerders bewijzen dat het niet Microsoft (MSFT) is, het leidende bedrijf op het gebied van kunstmatige intelligentie.
Een van de belangrijkste aankondigingen tijdens de show was de toevoeging van een AI-opstelfunctie genaamd Help Me Write, waarmee je e-mails kunt schrijven. Maar vanwege het gebruik van generatieve AI, zegt Google Workspace VP Aparna Pappu dat het bedrijf moet oppassen dat het geen ongepaste reacties pusht, anders loopt het bedrijf het risico het vertrouwen van gebruikers te verliezen.
“Het verlies van gebruikersvertrouwen is het ultieme punt waarop geen terugkeer mogelijk is”, vertelde ze aan Yahoo Finance. “Dit is onze Northstar,” kan het gebruikersvertrouwen niet verloren gaan. “”
Generatieve AI heeft een hele reeks netelige vragen opgeworpen, van de vraag of banen zoals die van u overbodig worden, tot of het op scholen moet worden toegestaan. Hoeveel vertrouwen gebruikers kunnen hebben in technologie om nauwkeurige antwoorden op hun prompts te produceren, is ook een punt van discussie geworden.
Babu zegt dat dit ook een deel van de reden is waarom Google zijn generatieve AI-functies vrijgeeft aan vertrouwde testers voordat ze openbaar worden.
‘Voordat we naar binnen gaan [general availability] We moeten het testen en door de wringer halen om het zelfs bij Labs te krijgen [Google’s early user test program] Babu legde uit dat het een groot aantal rigoureuze bruikbaarheidstests, aansprakelijkheidstests en veiligheidstests doorloopt voordat we het door een enkele externe gebruiker laten uitproberen.
Het aanbod van generatieve AI van Google en Microsoft geeft specifiek aan dat ze zich in een vroege testfase bevinden of dat sommige antwoorden mogelijk niet juist zijn. Bovendien is generatieve AI in het algemeen vatbaar voor ‘hallucinaties’, wat in feite een ingewikkelde manier is om te zeggen dat het antwoorden kan vormen op bepaalde ogenschijnlijk nauwkeurige, maar valse vragen van gebruikers.
Tijdens het segment “60 Minutes” hallucineert Google’s chatbot Bard een niet-bestaand boek. CEO Sundar Pichai legde tijdens de clip uit dat het probleem er een is dat veel chatbots op dit moment hebben en dat ingenieurs proberen het beter te begrijpen.
Daartoe zegt Babu dat Google zijn systemen blijft testen om te proberen verkeerde antwoorden of ongepaste antwoorden te voorkomen.
“Verantwoorde en veilige AI, het is niet van de ene op de andere dag geboren. Het is jaren werken aan AI en uitzoeken hoe we vijandige tests kunnen uitvoeren. Er is dus in wezen een verantwoorde en veilige AI getest in hoe we deze producten bouwen.”
Een probleem dat volgens Pappu uniek is voor Workspace, is dat het wordt gebruikt door miljarden gebruikers, elk met hun eigen begrip van de technologie. Een functie als generatieve AI in de vergelijking brengen zonder deze gebruikers in verwarring te brengen, is een puzzel op zich.
“We hebben 3 miljard gebruikers”, zei ze. “We hebben de verantwoordelijkheid om deze dingen heel eenvoudig en gebruiksvriendelijk te maken.”
door Daniël HulstTechnisch redacteur bij Yahoo Finance. Volg hem @tweet
Klik hier voor het laatste beursnieuws en diepgaande analyses, inclusief de gebeurtenissen die aandelen in beweging brengen
Lees het laatste financiële en zakelijke nieuws van Yahoo Finance
‘Reader. Furious humble travel enthusiast. Extreme food scientist. Writer. Communicator.’
