Hårdvara, klimatdata och skeva algoritmer
Mycket handlar om att BYGGA just nu. Lägger vi grunden rätt för framtiden?
Hej!
Jag fick äntligen möjlighet att trycka in Unmasking AI i mina luttrade örongångar. Boken, som är skriven av Dr Joy Buolamwini, bär den vackra undertiteln My mission to protect what is human in a world of machines.
Nu kan det låta som ännu en domedagsprofet bland många andra. Men Dr Joy bygger snarare sina farhågor på de problem som skapas i detta nu. Det var under hennes forskning på MIT Media Lab som hon fick erfara en isande insyn i den exponentiellt framsusande teknologins inbyggda skevheter.
Till en början var det inte någon stor sak, men hon noterade att de system för ansiktsigenkänning (Facial Recognition) hon testade inte gav utslag på hennes ansikte. Hennes vänner med andra hudtoner tycktes inte drabbas av samma problem. När hon använde en vit mask gick det bra, tumme upp!
Det blev början på en lika delar forskningsbaserad som aktivistisk kamp för algoritmisk rättvisa. Ju mer hon pratade om problemet, desto djupare sjönk insikten om att det fanns människor som inte existerade i den globala, digitala infrastruktur som höll på att byggas upp.
Från Hollywoods manliga blick, The Male Gaze, infann sig nu The Coded Gaze – en vit, manlig, heteronormativ blick som i detta nu bygger enorma system som förr eller senare kommer att påverka de flesta människor på jorden. I boken kallas det bland annat för power shadows, maktens skuggor som gör sig påminda även när det handlar om förment icke-mänskliga saker som kod, algoritmer och dataset.
Jag har (kanske som Vit Man) ägnat ganska lite tankekraft åt de här problemen. Det har mest låtit som att man i vissa FR-tester lyckats sämre på svarta ansikten. Bra att det uppmärksammas. Gör om, gör rätt.
Men under bokens gång blir insikten mer drabbande. Det handlar om människor som blir oskyldigt brottsanklagade av övervakningskameror, patienter som får senare diagnos vid hudcancer, rekryteringsalgoritmer som rensar oönskade kandidater, förnedrande passkontrollstjafs och självkörande bilar som upptäcker vissa fotgängare sämre.
AI-systemen är upp till 34 procent sämre på att identifiera svarta kvinnor jämfört med vita män. Med andra ord: en otämjd utrullning riskerar att medföra livsfara.
Nu är jag som bekant knappast känd för att vilja bromsa utvecklingen eller fastna i skräckhistorier. Men systemöverskridande missförhållanden måste förstås hanteras på ett så tidigt stadium som möjligt.
Dokumentärfilmen Coded Bias om Dr Joy och hennes arbete producerades 2020, men är i allra högsta grad aktuell fortfarande, särskilt om man tar i beaktning att de stora språkmodellerna som dominerar dagens AI-utveckling är tränade på input från… tja, framförallt uppkopplade, rika, västerländska källor.
Dr Joy driver i dag Algorithmic Justice League och kallar sig även Poet of Code när hon pendlar mellan forskar-jaget och sitt poetiska alterego med spoken word-framträdanden.
Under AI Strategy Summit i Stockholm diskuterades ämnet åtminstone i förbifarten. Tidigt under dagen fastställdes i alla fall vikten av att bygga dataset av hög kvalitet, dels för att säkerställa effektiva algoritmer; dels minimera risken för att exponentiellt extrapolera eventuella skevheter på global skala.
Man kan väl säga att många bolag brottas med just detta just nu. Men det finns också en intressant retorisk utveckling. Dr Joy vänder sig till exempel i boken mot Effektiv Altruism-rörelsens ökande fokus på longtermism och existentiella AI-hot som ligger långt fram i tiden. Hon menar att vi har tillräckligt med problem här och nu för att det ska krävas tid och resurser.
Ungefär så löd även tongångarna under AI Strategy Summit: vi kan inte hantera en framtida superintelligens just nu, utan vi måste fokusera på det vi faktiskt kan göra.
Jag intervjuade Peter Kurzwelly och Göran Lindsjö, båda AI Sweden-kopplade AI-profiler med stor internationell erfarenhet. Deras bild var ganska samstämmig: Sverige ligger lååångt efter inom AI-utvecklingen. Vi har möjligen drabbats av det Tegmarkska narrativet om skärselden, men Peter Kurzwelly benämner också någonting ganska intressant: ”Sverige har en självbild som slutade gälla 2005.”
Kan det ligga något i det? Vi vill ju tro att Sverige är det mest hållbara, digitala, jämställda, nyfikna landet i världen. Eller sitter vi vid besinmacken med vår V70 och en varmkorv medan de självkörande Teslorna ljudlöst swishar förbi bakom ryggen på oss?
Jag tror både och. Det ligger absolut någonting i den skeva självbilden, men AI-investeringarna behöver förmodligen komma av en upplevd nödvändighet – antingen på grund av konkurrenternas flåsande i nacken, eller som svar på skenande administrativa kostnader (eller andra möjliga implementeringar).
Som Aurore Belfrage poängterade när jag intervjuade henne i pausen: den gröna och den digitala omställningen sker nu parallellt. Två krafter möts och samverkar – det kan bli ganska explosivt om det sker i samspel och med rätt riktning. Då gäller det dessutom att hänga med som människa och utveckla det unikt mänskliga, vilket Jennie Sinclair pratade om på sin föreläsning. Alla dessa fyra giganter kommer som poddavsnitt, samt i en artikel på Impact Loop om AI och impactpotential.
Jag hoppar lite fram och tillbaka nu, men just denna dragkamp pratar jag även om i poddens avsnitt 532 med Jesper Wirén från Enjay, som jobbar med värmeåtervinning i industrin och på snabbmatsrestauranger. Avsnittet är roligare än det låter, och vi pratar en del om just detta att det måste finnas fler morötter än piskor ifall man verkligen vill få saker att hända.
Med detta sagt, så är det just nu piskor för fullt från EU:s håll. De nya CSRD- och CSDDD-lagarna kommer skölja som en tsunami över storbolagens hållbarhetschefer inom kort, vilket snart spiller över till alla bolag som över huvud taget levererar till de större. Rapporteringskraven blir mastiga, samtidigt som ingen har gjort det tidigare. GDPR gånger tio.
Vilka gynnas av den här utvecklingen då? Jo, bland annat hållbarhetskonsulterna och klimatdatabolagen. Just dessa ska vi träffa på torsdag 23/5 när Bar Talk gör vårens andra talkshow på United Spaces Torsgatan 26 i Stockholm.
Vi gästas av Tove Ahlström från Nätverket för hållbart näringsliv, Frida Berry Eklund från Klimatkollen och Kristian Rönn från Normative.
Jag och Henric Smolak bjuder som vanligt på ett smörgåsbord med panelsamtal, nätverkande, barhäng, böcker, musik och gratis pizza från Deglabbet.
En orgie helt enkelt.
Det finns i skrivande stund ett fåtal platser kvar, så anmäl dig på länken här!
Jag måste bara säga något om mediehuset Impact Loop också, där jag för tillfället lägger halva min tid som reporter och redaktör (det har blivit några texter hittills). Det är en fantastisk lyx att få jobba med journalistik och innehållsproduktion som syftar till att bygga och stärka ett ekosystem av bolag och investerare som verkligen vill göra världen bättre på olika sätt.
Onsdag den 15 maj var det premiär för Build, ett helt nytt eventformat som redaktionens fem personer roddat ihop med små resurser på kort tid (dock med viktig hjälp från Teknikföretagen). Fokus låg på hårdvara, climate tech och kapital. En fantastisk flora av talare och besökare möttes på nyöppnade Fållan i Slakthusområdet.
Själv fick jag agera sidekick på scen till Camilla Bergman, samt moderator, frågelåda och pausunderhållning. Härligt var det!
Investerar du förresten i foodtech och agtech? Då vill du inte heller missa Impact Loops nästa event på norska ambassaden i Stockholm, tisdag den 21 maj, då 15 startups från Sverige och Norge pitchar på scen. Info och anmälan här!
Om du förresten behöver en stabil, småkul och ganska lång moderator till ert evenemang i Almedalen är jag idel öra. Jag kan även podda på plats med panelister eller experter ifall ni vill förlänga relevansen och förstärka värdet av aktiviteterna under veckan. Fundera på saken och dra ett mail!
Några poddavsnitt har krystats fram sedan sist vi hördes i nyhetsbrevet:
Ulrika Tornerefelt om att bygga batterisystem och energilager för industrier och fastigheter i både Sverige och Afrika.
Philip Tigges om hur mycelprotein ska ta världen med storm genom det tyska foodtech-bolaget Infinite Roots.
Heidi Rundt är vd på Hyper Island och berättar om sin syn på utbildning, ledarskap och personlig utveckling i tider av snabb förändring.
Anja Leissner medgrundande Stockeld Dreamery och berättar nu om visionen med sitt nya projekt Spring Food System.
Michaela Berglund är vd på Feminvest och berättar om den nya 100-miljonersfonden som ska stärka kvinnligt ägande och entreprenörskap.
Louisa Burwood-Taylor från Agfunder resonerar kring de låga foodtech-investeringarna och vad som behövs för att boosta ekosystemet igen.
Jesper Wirén från Enjay om värmeåtervinning, energioptimering och hur man egentligen lockar till omställning.
Peter Kurzwelly om varför AI Sweden har placerat honom just i Kanada - vad har de som inte vi har när det gäller AI-forskning?
Mark Brolin är en framtidsoptimistisk geopolitisk strateg som ser världen som en pendel ständigt i rörelse.
Heli Anttila jobbar med livsmedelsinnovation på Fazer Confectionery i Finland och berättar om spännande framsteg inom chokladtillverkning.
PS. I skrivande stund är det hakdropp på hakdropp när AI-jättarna presenterar sina nyheter. Som du märker hinner jag inte alltid agera så snabbfotat kring AI- och techtrender som man skulle önska. Jag rekommenderar därför att du även följer mina kollegor
// // // // // // Warp News // Foodtech Weekly // //Och uppgradera för all del gärna till betalande prenumerant ifall du ser något som helst värde i mina texter, poddar, böcker och events. Alla bäckar uppskattas!