Møt Diem, den AI-drevne 'sosiale søkemotoren' ment å føles som vennegruppen din chat

La oss for eksempel si at du vil vite om hvor mye det koster å fryse eggene dine. Du vil skrive det spørsmålet til DIEM, og AI-komponenten ville bruke den bredere Internett-databasen og DIEM-brukerbeskyttet innhold for å generere både et stendighets svar og et lengre. Og du vil motta begge sammen, sammen med alle samfunnsgenererte innlegg om emnet, i tilfelle du var interessert i å bla gjennom dem.

På denne måten kombinerer Diem den enkle AI med personalisering av kunnskap fra faktiske kvinner og ikke-binære mennesker-den veldig slags anekdotisk informasjon og livserfaringer og sladder ofte deprioritert av søkemotorer på grunn av skjevhet (mer om det nedenfor). Det er kombinasjonen, sier Bates, som gjør informasjonen om DIEM både nyttig og direkte anvendelig for personer fra disse samfunnene. "Måten vi alltid har tenkt på å bygge er: 'Hvordan kan vi skape et rom der du kan søke etter den kollektive innsikten i samfunnene dine?'" hun sier. “Hvis du kan bygge kollektivt med samfunnet ditt, former det stemmen, dataene og opplevelsen, og det ender opp med å føle seg annerledes.”

Spørsmålet om kjønnsskjevhet på søkemotorer og AI -plattformer

Fordi kjønnsskjevhet er utbredt i samfunnet som en helhet, eksisterer det også innen internett-søkemotorsalgoritmer, og fremmer kjønnsinformasjonsgapet. Det er det samme gapet som Bates konfronterte når de prøver å finne gjeldende, relatabel informasjon om morgenen etter pillen i 2018.

Som bevis, bør du vurdere resultatene fra en 2022-studie, som forskere så ut til å avgjøre om Google-bilder søker i land med høyere kjønnsoppkvalitetspoeng (vurdert med den globale kjønnsgapindeksen) også vil demonstrere en kjønnsskjevhet. For å gjøre det gjennomførte de et søk etter ordet "person" på det lokale språket i 37 land i sin første studie og 52 land i sitt andre. I alle tilfeller avslørte Google -søkeresultatene i land med større nivåer av samfunnsulikhet også større kjønnsforskjell (noe som betyr at en høyere prosentandel av de første 100 bildesultatene viste en mann kontra en kvinne).

Nye AI -roboter har også vist seg å forevige kjønnsskjevhet. For eksempel, Bloomberg rapporterte at en beregningsforsker fikk chatgpt for å spytte ut kode som sa at bare asiatiske eller hvite menn ville gjøre gode forskere; Selskapets administrerende direktør svarte på forskeren på Twitter, og oppfordret brukere til å "tommelen ned" slike svar for å hjelpe programmet med å lære å ikke forplante skjevhet.

Da jeg stilte chatgpt et lignende spørsmål, sa det at det ikke er aktuelt å bruke noens kjønn eller rase for å avgjøre om de ville utmerke seg i et yrke. Men selv om det virker som om AI for øyeblikket lærer å være mindre partisk, er det fortsatt avhengig av objektive, medfølende brukere for å trene det til å være slik. (Mens Diems AI i stor grad er opplært på informasjon opprettet av og for Kvinner og ikke-binære mennesker, og er derfor ikke underlagt den samme utgaven av skjevhet mot kvinner fra hoppet.)

"AI er bare like god som dataene de er trent på, og fordi alle mennesker har skjevhet og fordommer, når dataene deres brukes, blir skjevhet og fordommer en del av AI."-Nina Vasan, MD, psykiater

Disse funnene illustrerer hvordan skjevhetene vi opprettholder når mennesker naturlig overfører til produktene vi lager og datasettene vi bidrar med. "AI er bare like god som dataene de er trent på, og fordi alle mennesker har skjevhet og fordommer, når dataene deres brukes, blir skjevhet og fordommer en del av AI," sier psykiater Nina Vasan, MD, sjef for medisinsk offiser av Digital Therapy Platform Real og grunnlegger og administrerende direktør for Brainstorm: The Stanford Lab for Mental Health Innovation.

Hvordan Diem tar sikte på å bli en morsom, informativ søkemotor spesielt for kvinner og ikke-binære mennesker

Gitt Diems tiltenkte brukerdemografiske, sier Bates at hun tenker på informasjonen som er delt på plattformen og generert av chatbot som svar på spørsmålene folk har når de er i "vennfasen" i livet; Folk absorberer mye informasjon fra venner når de er i midten av tjueårene og begynnelsen av trettiårene, sier hun. Ideen med Diem er at du får perspektiver fra en rekke mennesker i din alder og kjønnsidentitet som du kanskje ikke har samhandlet med, og at kollektiv forståelse kommer alle på plattformen.

Fordi Diems AI blir matet med informasjon direkte fra folk om denne demografien, er det en representativ plattform av Design. Per nå har tusenvis av kvinner og ikke-binære mennesker stilt spørsmål og delt svar på Diem om emner som er relevante for dem, spesielt i kategoriene personlig helse, penger og forhold-som er der Diems AI er best trent.

Mens det fremdeles lærer, henter det fra et bredere proprietært datasett (som ligner på det som driver chatgpt) for å finne informasjon om spørsmål som folk i samfunnet ennå ikke har diskutert. Et poeng med differensiering er imidlertid at det fremdeles snurrer ut et "oppsummert Diem-Y-svar" for disse spørsmålene, sier Bates, ved å bruke faktiske DIEM-konvoser for å informere svarets stil og tone.

Fordi Diem fremdeles er en AI som stoler på både brukergenerert innhold og det bredere datasettet, er det absolutt ikke immun til problemene som andre søkemotorer og AI chatbots står overfor, inkludert falsk, villedende, og, ja, til og med partisk innhold. På sin side er det en knapp i appen og på skrivebordsversjonen for å rapportere overgrep, og plattformen har publisert et sett med retningslinjer og kvaliteten på informasjonen.

DIEM lanserer i en tid da myndighetspersoner i både USA og EU undersøker måter å regulere AI, hovedsakelig på grunn av de ovennevnte bekymringene. I u.S. Spesielt ga president Joe Bidens kontor et utkast til en AI Bill of Rights i oktober, en topartisk gruppe av U.S. Senatorer ledet av senator Chuck Schumer jobber med lovgivning for å etablere rekkverk rundt industrien, og fire offentlige etater ga ut en felles uttalelse forrige måned som beskrev maktene de har for å regulere industrien mer robust, spesielt mot diskriminering som følge av skjevhet.

Men Bates blir ikke avskrekket ved å komme inn i dette landskapet. Hun spår at det vil være et "interessant skifte i fremtiden til Internett", der folk vil oppsøke informasjon som ivaretar spesifikt hvor de er i livet. I stedet for å be Google om datingråd, for eksempel, håper hun at du snart vil gå til en plattform som Diem, som vil gi deg svar avledet fra mennesker med en lignende levd opplevelse som din egen.

"Akkurat nå eksisterer vi i monopol, og det påvirker hvordan vi bruker internett og hva vi forventer av plattformer," sier Bates. Tross alt gjenspeiler disse monopolene ofte skjevhet til fordel for menn. "Jeg tror fremtiden til Internett kommer til å tilby flere nisjeopplevelser," sier hun. Og hvem skal si en nisje er nødvendigvis liten? Som Bates påpeker, utgjør kvinnelige identifiserende folk en nesten like stor andel av menneskene på planeten. Og nå er det en gigantisk gruppechat som venter på innspillene deres.