Inactiviteit ligt onder vuur vanwege misleidend AI-trainingsbeleid

In de nasleep van aanhoudende problemen rond de manier waarop grote technologiebedrijven data in beslag nemen Individueel En Bedrijf Bij AI Services Training is er een storm op komst onder Slack-gebruikers die boos zijn over de manier waarop het chatplatform van Salesforce vooruitgang boekt met zijn visie op AI.

Het bedrijf exploiteert, net als vele anderen, zijn gebruikersgegevens om enkele van zijn nieuwe AI-diensten te trainen. Maar het blijkt dat als u niet wilt dat Slack uw gegevens gebruikt, u het bedrijf een e-mail moet sturen om u af te melden.

De voorwaarden voor die deelname zijn verborgen in wat een oud en verwarrend privacybeleid lijkt te zijn waar niemand aandacht aan heeft besteed. Dat was het geval met Slack, totdat iemand boos erover postte op een communitysite die erg populair is onder ontwikkelaars, en dat bericht viraal ging… en dat is wat hier gebeurde.

Het begon allemaal gisteravond, toen… Opmerking over hackernieuws Hij stelde de vraag hoe Slack zijn AI-diensten traint, via een directe link ernaar Privacyprincipes -Er was geen extra commentaar nodig. Dat bericht leidde tot een langer gesprek – en wat nieuws leek voor bestaande Slack-gebruikers – dat Slack gebruikers standaard in staat stelt de AI te trainen, en dat je een specifiek adres moet e-mailen om je af te melden.

Vervolgens werd het onderwerp Hackernieuws gestimuleerd meerdere Gesprekken en vragen over Andere platforms: Er is een nieuw product met een generieke naam genaamd “Slappe AI“waarmee gebruikers onder meer naar antwoorden kunnen zoeken en gespreksthreads kunnen samenvatten. Maar waarom wordt dat op deze Privacy Principles-pagina op geen enkele manier bij naam vermeld, zelfs niet om te verduidelijken of het privacybeleid daarop van toepassing is? En waarom doet Slack verwijzen naar ‘mondiale vormen’ en ‘kunstmatige intelligentiemodellen’?

Tussen mensen die niet weten waar Slack zijn AI-privacyprincipes toepast, en onder mensen die verrast en ontsteld zijn bij het idee om een ​​uitschrijf-e-mail te sturen – bij een bedrijf dat het idee van ‘controle van je gegevens’ zwaar promoot – Slack doet dit niet erg goed.

Het trauma kan nieuw zijn, maar de omstandigheden zijn dat niet. Volgens de pagina’s op InternetarchiefDe voorwaarden gelden in ieder geval sinds september 2023. (We hebben het bedrijf om bevestiging gevraagd.)

Volgens het privacybeleid gebruikt Slack klantgegevens specifiek om ‘globale modellen’ te trainen, die Slack gebruikt om kanaalaanbevelingen, emoji’s en zoekresultaten aan te sturen. Slack vertelt ons dat het gebruik van data bepaalde grenzen kent.

“Slack heeft machine learning-modellen op platformniveau voor zaken als kanaalaanbevelingen, emoji’s en zoekresultaten. We bouwen of trainen deze modellen niet op een manier die hen in staat stelt een deel van de klant te leren, te onthouden of te reproduceren. data,” vertelde een woordvoerder van het bedrijf aan TechCrunch. Het beleid lijkt echter niet tegemoet te komen aan de algemene reikwijdte en bredere plannen van het bedrijf voor het trainen van AI-modellen.

In zijn termen zegt Slack dat als klanten zich afmelden voor datatraining, ze nog steeds zullen profiteren van de ‘wereldwijd getrainde AI/ML-modellen’ van het bedrijf. Maar nogmaals, in dit geval is het niet duidelijk waarom het bedrijf klantgegevens überhaupt zou gebruiken om functies zoals emoji-aanbevelingen mogelijk te maken.

Het bedrijf zei ook dat het geen klantgegevens gebruikt om Slack AI te trainen.

Slack AI is een afzonderlijk aan te schaffen add-on die gebruik maakt van grote taalmodellen (LLM’s), maar deze LLM’s niet traint op basis van klantgegevens. Slack AI maakt gebruik van LLM’s die rechtstreeks worden gehost binnen de AWS-infrastructuur van Slack, zodat klantgegevens intern blijven. Elke LLM-aanbieder en een woordvoerder van het bedrijf zeiden dat dit ervoor zorgt dat klantgegevens onder de controle van die organisatie blijven voor exclusief gebruik.

Een deel van de verwarring zal waarschijnlijk vroeg of laat worden aangepakt. In reactie op een recensie van Threads van ingenieur en schrijver Gergely Orosz, Slack-ingenieur Aaron Maurer ik beken Dat het bedrijf de pagina moet bijwerken om weer te geven “hoe deze privacyprincipes werken met Slack AI.”

Maurer voegde eraan toe dat deze voorwaarden zijn geschreven in een tijd dat het bedrijf nog niet over Slack AI beschikte, en dat deze regels het werk van het bedrijf op het gebied van zoeken en aanbevelingen weerspiegelen. Het zou de moeite waard zijn om de voorwaarden van toekomstige updates te onderzoeken, gezien de verwarring over wat Slack momenteel doet met zijn AI.

De problemen bij Slack herinneren ons er duidelijk aan dat in de snel veranderende wereld van AI-ontwikkeling de privacy van gebruikers geen bijzaak mag zijn, en dat de servicevoorwaarden van een bedrijf duidelijk moeten uitleggen hoe en wanneer gegevens worden gebruikt en of deze niet worden gebruikt.

Heeft u een nieuwstip? Neem veilig contact op met Ingrid op Signal via ingrid.101 of hier. (Geen PR, alstublieft.)

We lanceren een AI-gestuurde nieuwsbrief! abonnement hier Vanaf 5 juni ontvang je ze in je inbox.