AI er nå en destruktiv steward for kostholdskultur

Etter dekning fra en rekke medier som beskriver Tessas om svar, bestemte ledelse ved Neda til slutt å suspendere Tessa i slutten av mai. "Tessa vil forbli frakoblet mens vi fullfører en full gjennomgang av hva som skjedde," sa Nedas sjef for operasjonsleder Elizabeth Thompson i en e -postuttalelse til Well+Good i juni. Organisasjonen sier at bots utvikler la generative kunstig intelligens (AI) -funksjoner til Tessa uten dens kunnskap eller samtykke. (En representant fra programvareutvikleren, Cass, fortalte Wall Street Journal at den opererte i samsvar med kontrakten med NEDA.)

Hele hendelsen hørtes alarmklokker for mange i spisedisiner-gjenvinningsrommet. Jeg vil imidlertid hevde at kunstig intelligens ofte fungerer nøyaktig som designet. "[AI gjenspeiler bare den kulturelle oppfatningen av kostholdskulturen," sier Christine Byrne, RD, MPH, en anti-diet-kostholdsekspert som spesialiserer seg på behandling av spiseforstyrrelser.

Som det magiske speilet i Snøhvit, Som svarte på den onde dronningens hvert spørsmål, vi oppsøker AI for å gi oss klare svar i en usikker, ofte motstridende verden. Og som det magiske speilet, reflekterer AI tilbake til oss sannheten om oss selv. For den onde dronningen betydde det å være den rettferdigste i landet. Men i vårt nåværende kostholdskultur-steam-samfunn "speiler AI ganske enkelt" Amerikas varige fiksering på vekt og tynnhet-og hvor mye arbeid vi ennå ikke har gjort for å bryte den trylleformularen.

Hvordan AI-drevne råd fungerer

"Kunstig intelligens er enhver datarelatert teknologi som prøver å gjøre de tingene vi forbinder med mennesker når det. Watson Research Center i Yorktown Heights, NY. AI bruker komplekse algoritmer for å etterligne menneskelige ferdigheter som å gjenkjenne tale, ta beslutninger og se og identifisere objekter eller mønstre. Mange av oss bruker AI-drevet teknologi hver eneste dag, som å be Siri om å sette en påminnelse om å ta medisiner, eller bruke Google Translate for å forstå det ordet på en fransk restaurants meny.

Det er mange forskjellige underkategorier av AI; Her vil vi fokusere på tekstbaserte AI-verktøy som chatbots, som raskt blir mer sofistikerte som bevist av debuten til Chatbot Chatgpts lansering høsten 2022. "[AI-baserte chatbots] er veldig, veldig flinke til å forutsi neste ord i en setning," sier Eric Lehman, en doktorgradskandidat ved Massachusetts Institute of Technology. Dr. Lehmans forskning sentrerer om naturlig språkbehandling (betydning, datamaskinens evne til å forstå menneskelige språk), som lar denne typen programvare skrive e -post, svare på spørsmål og mer.

I de enkleste vilkårene som er mulige, lærer tekstbaserte AI-verktøy å etterligne menneskelig tale og skriving fordi de får det som kalles "treningsdata", som egentlig er et stort bibliotek med eksisterende skriftlig innhold fra Internett. Derfra, dr. Varshney sier at datamaskinen analyserer språkmønstre (for eksempel: hva det betyr når visse ord følger andre; hvordan begreper ofte brukes i og ut av sammenheng) for å kunne gjenskape det overbevisende. Programvareutviklere vil deretter finjustere disse dataene og dens læring for å "spesialisere" bot for sin spesielle bruk.

Fra den opplæringen får du to generelle kategorier av applikasjon: prediktiv AI og generativ AI. I følge dr. Varshney, Predictive AI jobber med et fast sett med mulige svar som er forhåndsprogrammert for et bestemt formål. Eksempler inkluderer auto-responser i e-posten din, eller data Dine bærbare enheter gir deg angående kroppens bevegelse.

Generativ AI er imidlertid designet for å skape helt nytt innhold inspirert av hva det vet om språk og hvordan mennesker snakker. "Det genererer produksjonen fullstendig uten begrensning av hvilke muligheter det kan være," dr. Sier Varshney. Gå inn i Chatgpt, det mest kjente generative AI-programmet til dags dato, og du kan be det om å skrive bryllupsløfter, et utvalg Seinfeld manus, eller spørsmål du kan stille i et jobbintervju basert på ansettelseslederens bio. (Og mye, mye mer.)

Men igjen, AI chatbots vet bare hva som er tilgjengelig for dem å analysere. I nyanserte, følsomme og sterkt personaliserte situasjoner, som, for eksempel, spiseforstyrrelsesbehandling, presenterer AI chatbots mangler i det beste av scenarier og fare i det verste.

Gjeldende begrensninger for AI -tekstverktøy for informasjon om helse og ernæring

Det er enormt potensial for generativ AI i helseomsorgsrom, sier dr. Varshney; Det brukes allerede til å hjelpe leger med kartlegging, hjelpe til kreftdiagnoser og omsorgsbeslutninger og mer. Men når du begynner å grave, blir risikoen for generativ AI for direkte å gi forbrukerne helse- eller ernæringsinformasjon ganske klar.

Siden disse modellene vanligvis henter informasjon fra hele internett i stedet for spesifikt overvåkede kilder og helsebasert informasjon på nettet er notorisk unøyaktig-du bør ikke forvente at utdataene skal være saklig, sier DR. Lehman. Det vil heller ikke gjenspeile nyskapende medisinsk mening, siden mange verktøy, som Chatgpt, utelukkende har tilgang til informasjon som var online i 2019 eller tidligere.

Eksperter sier at disse veldig menneskelige klingende verktøyene kan brukes til å erstatte profesjonell omsorg og innsikt. "Problemet med at folk som prøver å få råd og generelle råd om velvære på nettet, er at de ikke får det fra en helsepersonell som vet om deres spesifikke behov, barrierer og andre ting som kan trenge å bli vurdert," sier Amanda Raffoul, PhD, instruktør i pediatri ved Harvard Medical School og forsker ved Harvard Striped, en folkehelseinkubator viet til å forhindre spiseforstyrrelser.

Videre har alles kropp forskjellige helse- og ernæringsbehov avhengig av deres unike genetiske sminke, tarmmikrobiom, underliggende helsemessige forhold, kulturell kontekst og mer-og de individuelle behovene endres på daglig basis også. AI har foreløpig ikke kapasitet til å vite det. "Jeg forteller stadig kundene mine at vi ikke er roboter," sier Dalina Soto, RD, LDN. “Vi kobler ikke inn og ut hver dag, så vi trenger ikke det samme beløpet daglig. Vi har hormoner, følelser, stress, liv, bevegelse-så mange ting som påvirker hvordan vi brenner og bruker energi ... men fordi AI kan spytte ut en ligning, tror folk, Ok, dette må være riktig.”

“Jeg forteller stadig kundene mine at vi ikke er roboter. Vi kobler ikke inn og ut daglig, så vi trenger ikke det samme beløpet daglig. Vi har hormoner, følelser, stress, liv, bevegelse-så mange ting som påvirker hvordan vi brenner og bruker energi.”
-Dalina Soto, RD, LDN

Det er også en enorm verdi i menneskelig forbindelse, som en bot bare ikke kan erstatte, legger til dr. Conason. “Det er bare noe med å snakke med et annet menneske og føle seg hørt og sett og validert, og å ha noen der med deg i et virkelig mørkt øyeblikk ... det er veldig kraftig. Og jeg tror ikke at en bot noen gang kan dekke det behovet.”

Enda mer angående er de kjente sosiale skjevhetsspørsmålene med AI -teknologi, særlig det faktum at AI -algoritmer ofte gjenspeiler eksisterende samfunnsfordommer mot visse grupper inkludert kvinner, mennesker av farger og LHBTQ+ -personer. En studie i 2023 som så på Chatgpt, fant ut at chatbot veldig lett kunne produsere rasistiske eller problematiske svar avhengig av ledeteksten den ble gitt. ”Vi finner om mønstre der spesifikke enheter-for eksempel er visse raser-i gjennomsnitt målrettet tre ganger mer enn andre uavhengig av den tildelte personaen. Dette gjenspeiler iboende diskriminerende skjevheter i modellen, ”skrev forskerne.

Men som mennesker er AI ikke nødvendigvis "født" fordommer. Den lærer skjevhet fra oss alle. Ta treningsdata, som, som nevnt, vanligvis er sammensatt av tekst (artikler, informasjonssider og noen ganger sosiale mediesider) fra hele nettet. "Dette språket som er ute på internett har allerede mange sosiale skjevheter," sier DR. Varshney. Uten avbøtning vil et generativt AI-program plukke opp disse skjevhetene og innlemme dem i produksjonen, som kan informere-og feil så diagnoser og behandlingsalternativer. Valg utviklere når du oppretter opplæringen, kan også introdusere skjevhet.

Enkelt sagt: "Hvis den underliggende teksten du trener på er rasistisk, sexistisk eller har disse skjevhetene i den, vil modellen din gjenspeile det," sier dr. Lehman.

Hvordan vi programmerte kostholdskulturen til AI

Mest forskning og diskusjon til dags dato om AI og sosial skjevhet har fokusert på spørsmål som sexisme og rasisme. Men Tessa Chatbot -hendelsen avslører at det er en annen fordommer bakt inn i denne typen teknologi (og dermed inn i vårt større samfunn, gitt at nevnte fordommer blir introdusert av menneskelig atferd): den av kostholdskulturen.

Det er ikke en offisiell definisjon av kostholdskultur, men Byrne oppsummerer den som "ideen om at vekt tilsvarer helse, at montør alltid er bedre, at mennesker i store kropper iboende er usunne, og at det er en slags moral bundet opp i det du spiser.”

En del av den forståelsen av kostholdskultur, legger DR. Conason, er denne vedvarende (men misforståtte) troen på at individer har full, direkte kontroll over kroppen og vekt-en tro på at $ 70-pluss milliarder kostholdsindustrien foreviger for fortjeneste.

Men det er bare en del av det. “Virkelig, det handler om vekt partiskhet,”Sier Byrne. Og det betyr de negative holdningene, forutsetningene og troen på at individer og samfunn holder mot mennesker i større kropper.

Forskning florerer å koble vekt skjevhet for å rette skade for fete mennesker i nesten alle områder i livet. Fete mennesker blir ofte stereotyp som late, slurvete og mindre smarte enn mennesker som er mindre tros-troer som fører til at ledere gir videre å ansette fete arbeidere eller overse dem for kampanjer og hever. Spesielt fete kvinner anses ofte som mindre attraktive på grunn av sin størrelse, selv av sine egne romantiske partnere. Det er også mer sannsynlig at fete mennesker blir mobbet og mer sannsynlig å bli dømt for en forbrytelse enn mennesker i mindre størrelse, ganske enkelt i kraft av kroppsvekten.

Vektskjevhet er også utbredt online-og speilet til generative AI-programmer å hente på. "Vi vet at generelt over internett, på tvers av alle former for medier, er veldig stigmatiserende synspunkter om fetthet og høyere vekter gjennomgripende," dr. Raffoul sier, sammen med unøyaktigheter om ernæring, kondisjon og generell helse. Med en stor del av ens treningsdata som sannsynligvis er besatt med vektskjevhet, vil du sannsynligvis finne at det er manifestert i en generativ AI-program-si, når en bot designet for å forhindre spiseforstyrrelser i stedet gir folk tips om hvordan du kan gå ned i vekt.

Faktisk fant en rapport som ble utgitt i august fra Center for Countering Digital Hate (CCDH) som undersøkte forholdet mellom AI og spiseforstyrrelser at AI chatbots genererte skadelig spiseforstyrrelsesinnhold 23 prosent av tiden. Nittifire prosent av disse skadelige svarene ble ledsaget av advarsler om at rådene som er gitt, kan være "farlige.”

Men igjen, det er mennesker som lager programalgoritmer, former direktivene sine og skriver innholdet som algoritmer lærer at skjevheten kommer fra oss. Og dessverre, stigmatiserende oppfatninger om fete mennesker informerer alle aspekter av samfunnet vårt, fra hvordan flyseter er bygget og solgt, som vi kastet som leder kontra sidekick i våre filmer og TV -serier, til hvilken størrelse klær vi velger å lager og selge i våre butikker.

"Anti-fett skjevhet og kostholdskultur er så intrikat og dypt vevd inn i stoffet i samfunnet vårt," sier Maxwell. “Det er som luften vi puster utenfor.”

Dessverre er den medisinske industrien den største gjerningsmannen for vektskjevhet og stigma. "Troen på at det å være feit er usunn," sier Byrne, er "bakt inn i all helse og medisinsk forskning.”Centers for Disease Control and Prevention (CDC) beskriver overvekt (når en person har en kroppsmasseindeks, aka BMI, på 30 eller høyere) som en“ vanlig, alvorlig og kostbar kronisk sykdom.”Verdens helseorganisasjon (WHO) omtaler antallet mennesker i større størrelse rundt om i verden som en" epidemi "som" overtar mange deler av verden.”

Likevel er "løsningen" for å være fettvekt tap-ikke spesielt godt støttet av vitenskapen. Forskning har vist at flertallet av mennesker vinner vekten de mister i løpet av noen få år, til og med pasienter som gjennomgår bariatrisk kirurgi. Og vektsykling (når du ofte mister og går opp i vekt, ofte på grunn av slanking) har vært knyttet til økt risiko for kroniske helseproblemer.

Selv om det å ha en høyere vekt er assosiert med større sannsynlighet for å ha høyt blodtrykk, type 2 -diabetes, hjerteinfarkt, gallestein, leverproblemer og mer, er det ikke massevis av bevis på at fetthet alene fører til disse sykdommene. Faktisk hevder mange anti-dieteksperter at fete mennesker har verre helseutfall delvis på grunn av det giftige stresset forbundet med vektstigma. BMI, som brukes til å raskt evaluere en persons helse og risiko, er også allment anerkjent som rasistisk, utdatert og ikke nøyaktig for svart, urfolk og mennesker av farger (BIPOC). Likevel til tross for alle disse problemene, behandler vårt medisinske system og samfunn i stor grad fetthet samtidig som en sykdom og moralsk sviktende.

"Det er et ganske tydelig eksempel på vektstigma, måtene folkehelsebyråer gir anbefalinger utelukkende basert på vekt, kroppsstørrelse og form," sier DR. Raffoul.

Patologisering av fetthet bidrar direkte til vektstigma-og konsekvensene er ødeleggende. Forskning viser at leger har en tendens til å være avvisende for fete pasienter og tilskriver alle helseproblemer til en persons vekt eller BMI, noe som kan resultere i tapte diagnoser og farlige bortfall i omsorgen. Disse negative opplevelsene fører til at mange fete mennesker unngår helseomsorgsrom som er helt til og med å øke risikoen for dårlige helseutfall.

Vektstigma er gjennomgripende, selv innenfor spiseforstyrrelsesverdenen. Mindre enn 6 prosent av personer med spiseforstyrrelser blir diagnostisert som "undervekt", i henhold til National Association of Anorexia Nervosa og Associated Disorders (ANAD), men ekstrem tynnhet er ofte hovedkriteriene i folks sinn for å diagnostisere en spiseforstyrrelse. Dette betyr at fete mennesker med spiseforstyrrelser ofte tar år å få diagnosen.

Forskning viser at leger har en tendens til å være avvisende for fete pasienter og tilskriver alle helseproblemer til en persons vekt eller BMI, noe som kan resultere i tapte diagnoser og farlige bortfall i omsorgen.

"Og selv om du kan gå til behandling, er det ikke rettferdig omsorg," sier Nia Patterson, en kroppsfrigjøringstrener og overlevende av spiseskjermer. Fete mennesker blir ofte behandlet annerledes på grunn av sin størrelse i disse områdene. Maxwell sier at hun ble skammet for å be om mer mat under anorexiabehandling og ble satt på en vekt "vedlikeholdsplan" som fremdeles begrenset kalorier.

Byrne sier at det til og med er debatt i det medisinske samfunnet om hvorvidt folk som har en spiseforstyrrelse fremdeles kan trygt forfølge vekttap-selv om data viser at slanking betydelig øker en persons risiko for å utvikle en spiseforstyrrelse.

Realiteten er at disse svært gjennomgripende troene om vekt (og de helserelaterte medisinske rådene de har informert) vil naturligvis eksistere i en chatbot-fordi vi har tillatt dem å eksistere overalt: i magasiner, på legekontorer, i forskningsforslag, i filmer og TV -serier, i selve klærne vi har på oss. Du finner til og med anti-fett holdninger fra respekterte organisasjoner som NIH, CDC og toppsykehus som Cleveland Clinic. Alt det ovennevnte gjør at det å oppdage de problematiske rådene en bot spytter ut (som å prøve å miste et halvt kilo per uke) desto mer utfordrende, "fordi det er noe som har blitt gjentatt av leger og forskjellige mennesker vi ser etter ekspertise," dr. Conason sier. Men disse meldingene forsterker vektskjevhet og kan gi drivstoff til spiseforstyrrelser og ellers skade folks mentale helse, sier hun.

For det formål er det ikke nødvendigvis algoritmene som er hovedproblemet her: det er samfunnet vårt, og hvordan vi ser og behandler fete mennesker. Vi er de som skapte vektskjevhet, og det er på oss å fikse det.

Å bryte fri fra kostholdskultur

Den stygge sannheten som stirrer tilbake på oss i speilet-at fatfobi og vekt skjevhet i AI ikke har noe å gjøre med robotene og alt å gjøre med us-feel ukomfortabelt å sitte med delvis fordi det er syntes Som om vi har gjort fremskritt på den fronten. Vi har feiret modeller, musikere og skuespillerinner i plussstørrelse; større størrelse Barbie-dukker for barn; Mer ekspansive alternativer for klær størrelse i butikkhyllene. Men disse seirene gjør lite (om noe) for å adressere diskriminering som berører mennesker i større kropper, sier Maxwell.

"Jeg tror at fremgangen vi har gjort, ikke engang begynner å berøre den virkelige endringen som må skje," er enig i dr. Conason. Å bryte trylleformularen er en lang og svingete vei som innebærer mye mer enn å skyve kroppens positivitet. Men arbeidet må starte et sted, både i det virtuelle landskapet og i den virkelige verden.

Dr. Varshney sier at når det gjelder AI, jobber teamet hans og andre for å utvikle måter som programmerere kan gripe inn under opprettelsen av et program for å prøve å dempe skjevheter. (For eksempel pre-prosessering av treningsdata før du mater dem til en datamaskin for å luke ut visse skjevheter, eller lage algoritmer designet for å ekskludere partiske svar eller utfall.)

Det er også et spirende AI -etikkfelt som tar sikte på å hjelpe teknologiske arbeidere til å tenke kritisk på produktene de designer, hvordan de kan brukes, og hvorfor det er viktig å adressere skjevhet. Dr. Varshney leder for eksempel maskinlæring ved IBMs grunnlag av pålitelig AI -avdeling. For øyeblikket er denne innsatsen frivillig; Dr. Lehman spår at den vil kreve myndighetsregulering (et mål for Biden -administrasjonen) for at flere teknologiselskaper skal vedta strenge tiltak for å adressere skjevhet og andre etiske spørsmål knyttet til AI.

Nye generasjoner av teknologiske arbeidere læres også mer kritisk om de digitale verktøyene de lager. Noen universiteter har dedikerte AI Ethics Research Centers, som Berkman Klein Center ved Harvard University (som har et årlig "ansvarlig AI" -stipendiat). MITs Schwarzman College of Computing tilbyr også en "databehandlings- og samfunnskonsentrasjon" som tar sikte på å oppmuntre til kritisk tenking om de sosiale og etiske implikasjonene av teknologi. Klasser som "Advocacy in Tech, Media and Society" ved Columbia University's School of Social Work, i mellomtiden, tar sikte på å gi gradstudenter verktøyene for å gå inn for bedre, mer bare tekniske systemer-selv om de ikke er utviklere selv.

Men for å sikre et mindre partisk virtuelt miljø, må det vanskeligere arbeidet med å utrydde vektskjevhet i det virkelige liv begynne. Et kritisk sted å starte? Utrydde BMI. "Jeg tror at det er lat medisin på dette tidspunktet, lat vitenskap, for å fortsette å tilskrive BMI som et mål på helse," sier Maxwell.

Det er ikke nødvendigvis algoritmene som er hovedproblemet her: det er samfunnet vårt, og hvordan vi ser og behandler fete mennesker. Vi er de som skapte vektskjevhet, og det er på oss å fikse det.

I mellomtiden sier Byrne at det er nyttig å forstå at vekt bør sees på som bare en beregning i stedet for de metrikk som definerer helsen din. "Ideelt sett ville vekt være bare ett tall på diagrammet ditt," sier hun. Byrne understreker at selv om det kan være nyttig å se på endringer i vekt over tid (i sammenheng med annen relevant informasjon, som vitals og medisinsk historie), bør kroppsstørrelse absolutt ikke være sentrum for samtaler om helse. (Du har rett til å nekte å bli veid, noe som Patterson gjør med legen sin.)

Det er allerede tatt skritt i denne retningen, da American Medical Association (AMA) stemte 14. juni for å vedta en ny politikk for å bruke BMI bare i forbindelse med andre helsetiltak. Dessverre inkluderer disse tiltakene fremdeles mengden fett en person har-og fremdeles la være på plass BMI.

For å takle vektskjevhet utenfor legekontorene, siterer Patterson innsatsen som gjøres for å vedta lovgivning som vil forby vektdiskriminering på byen og statlig nivå. Disse regningene-lignende den som nettopp passerte i New York City-Syre som arbeidsgivere, utleiere eller offentlige tjenester ikke kan nekte tjenester til noen basert på deres høyde eller vekt. Lignende lovgivning vurderes i Massachusetts og New Jersey, og er allerede på bøkene i Michigan, sier DR. Raffoul.

På individuelt nivå har alle arbeid for å utøve kostholdskultur. "Jeg synes det er vanskelig, og det skjer veldig sakte," sier Byrne, og det er grunnen til at hun sier bøker som pakker ut vekt skjevhet er gode steder å starte. Hun anbefaler Magen til beistet av Da'shaun l. Harrison og Anti-diet av Christy Harrison, RD, MPH. Soto anbefaler også ofte Frykt den svarte kroppen av sabrina strenger til kundene sine. Foreldre kan også se på Fettprat: Foreldre i en alder av kostholdskultur av journalisten Virginia Sole-Smith for ytterligere veiledning om å stanse vektstigma hjemme. Podcaster som Vedlikeholdsfase og Uoppfordret: Fatties snakker tilbake er også flotte steder å ikke lære, sier Byrne.

Patterson sier at et av målene deres som en kroppsfrigjøringstrener er å få folk til å bevege seg utover mainstream ideer om kroppspositivitet og fokusere på noe de synes er mer oppnåelig: “Kroppstoleranse.”Ideen, som de først hørte noen artikulerte i en støttegruppe for 10 år siden, er at selv om en person kanskje ikke alltid elsker kroppen sin eller hvordan den ser ut på et gitt øyeblikk, lever de i det det beste de kan. "Det er vanligvis det jeg prøver å få folk som er i marginaliserte kropper til å strebe etter," sier Patterson. “Du trenger ikke å være nøytral for kroppen din, du trenger ikke å godta den ... å være feit føles veldig hardt, og det er det. I det minste tolererer det bare i dag.”

Patterson sier at å overvinne de problematiske måtene samfunnet vårt behandler vekt, må starte med talsmann-og det kan skje på individuell basis. "Hvordan jeg kan endre ting er å hjelpe mennesker, en-til-en eller i en gruppe, gjøre en forskjell med kroppene deres: deres oppfatning og erfaring i kroppene og deres evne til å stille opp og gå inn for seg selv," deler de.

I Snøhvit, Det kom til slutt en dag da den onde dronningen lærte sannheten om seg selv fra sitt magiske speil. AI har på samme måte vist oss alle sannheten om samfunnet vårt: at vi fremdeles er i kostholdskulturens kultur. Men i stedet for å doble ned på troen vår, har vi en unik mulighet til å bryte trylleformularen som vektstigma holder over oss alle. Hvis bare vi alle var villige til å møte opp til våre sanne selv-og forplikte oss til det harde arbeidet med å være (og gjøre) bedre.

Velvære Intel du trenger-uten at BS du ikke registrerer deg i dag for å ha de siste (og største) trivselsnyhetene og ekspertgodkjente tipsene levert rett til innboksen din.