Microsoft har nyligen börjat rulla ut ny version av sökmotorn Bing, som tar hjälp av artificiell intelligens (AI) genom tekniken bakom chattbotten Chat GPT. Syftet med tekniken är att genom en konversationsliknande upplevelse avklara mer komplicerade uppgifter. Samtidigt ställer den nya tekniken viktiga frågor om hur AI ska implementeras på ett ansvarsfullt sätt, och Microsoft själva var snabba med att varna om felaktiga eller missvisande svar.

Nu lägger Microsoft ned avdelningen "Ethics and Society" inom företagets AI-falang, vars uppgift var att koppla ihop de principer och regler om ansvarsfull AI-design som tagits fram med faktisk utformning av produkter. Avdelningen skalades tidigare ned i oktober 2022 från runt 30 anställda till endast 7, vilket enligt återstående medlemmar försvårade gruppens arbete.

Microsoft is committed to developing AI products and experiences safely and responsibly, and does so by investing in people, processes, and partnerships that prioritize this. Over the past six years, we have increased the number of people across our product teams and within the Office of Responsible AI who, along with all of us at Microsoft, are accountable for ensuring we put our AI principles into practice. […] We appreciate the trailblazing work the Ethics & Society did to help us on our ongoing responsible AI journey. – Microsoft

Trots att "Ethics and Society" stängs ned kvarstår tre Microsoft-avdelningar som fokuserar på frågor om implementering av AI-teknik. Microsoft vidhåller att etisk och ansvarsfull AI-implementeringen är en prioritet för företaget, och berättar att mängden anställda inom avdelningen "Office of Responsible AI" har växt under de senaste sex åren.

People would look at the principles coming out of the office of responsible AI and say, ‘I don’t know how this applies. Our job was to show them and to create rules in areas where there were none. – Tidigare anställd, Ethics and Society-avdelningen

Vissa av de tidigare anställda instämmer inte i Microsofts bedömning, utan menar att den stängda avdelningen hjälpte till att navigera genom samt översätta svårförstådda principer till konkret produktdesign. En möjlig risk är att avdelningens frånvaro leder till att problem uppstår med översättningen från teoretiska principer till faktisk design av AI-baserade applikationer.

Använder du AI-baserade chattbottar i vardagen?