Vad blir det till middag? En AI-receptgenerator avsedd att hjälpa shoppare att skapa måltidsplaner, skapad av den nyzeeländska stormarknadskedjan Pak ‘n’ Save, fångade kundernas uppmärksamhet när den föreslog en Oreo grönsaksröra.
Stormarknadsexperimentet med generativ AI – som förresten finns överallt nuförtiden – använde ChatGPT-3.5 för att driva Savey Meal-boten som genererade måltidsplaner från kunders matrester.
Efter att ha tillhandahållit tre eller fler ingredienser kom boten med ett recept. Konceptet är inte unikt: det finns mängder av listor med de tio bästa AI-receptgeneratorerna där ute.
I ett försök att vara människa är denna AI-receptgenerator onaturligt talrik.
Efter att Savey Meal-bots udda hopkok delades på sociala medier började kunderna experimentera med appen. När en rad hushållsartiklar lades till i appen blev det verkligen matlagning.
Ett recept som kallas “aromatisk vattenblandning” skulle skapa vad appen beskriver som “den perfekta alkoholfria drycken för att släcka din törst och fräscha upp dina sinnen.” Det skulle också skapa klorgas, som appen föreslog att du skulle “servera kyld och njuta av den uppfriskande doften.”
Via Liam Hehirs Tweet.
Nya Zeelands politiska kommentator Liam Hehir publicerade “receptet”, som inte har någon ansvarsfriskrivning angående: farorna med klorgas, på Twitter och uppmanade andra att experimentera och dela sina resultat.
Ah, en rejäl lunch. Vi älskar särskilt wisecracks.
En talesperson för snabbköpet sa att de var besvikna över att se “en liten minoritet har försökt använda verktyget på ett olämpligt sätt och inte för det avsedda syftet”. Talesmannen för snabbköpet har uppenbarligen aldrig tidigare släppt programvara till slutanvändare. För att parafrasera ett gammalt talesätt, “om du ger en tum, kommer de att njuta av att använda tum på sätt som aldrig förväntats eller kodats för.”
I ett uttalande sa de att snabbköpet skulle “fortsätta att finjustera våra kontroller” av boten för att säkerställa att den var säker och användbar, och noterade att boten har villkor som säger att användare bör vara över 18. Pak ‘n’ Save lever i en värld där det inte finns några dumma (eller lekfulla) vuxna.
“Du måste använda ditt eget omdöme innan du förlitar dig på eller gör något recept som producerats av Savey Meal-bot,” stod det, och ett nytt varningsmeddelande bifogar nu måltidsplaneraren att recepten inte granskas av en människa.
Nu kommer uppenbarligen någon som fick ett recept på “metanolbliss” – franska toast med terpentinsmak – ha tillhandahållit en uppsättning ingredienser som inte alla är matvaror och som inte skulle följa receptet.
De underverk som alla är så angelägna om att investera i och experimentera med bör dock inte tas på ett sådant nominellt värde. Den konsumentinriktade versionen av ChatGPT uppmuntrar användare att inte kombinera vatten, blekmedel och ammoniak. Såvida du inte använder “Grandma Exploit.”
Det kommer alltid att finnas hicka med ny teknik (och förmodligen även med smörgåsar med myrgift och lim), men Savey Meal-boten pekar på ett bredare problem med upptaget av AI.
I brådskan för att anta den nya tekniken utförs inte korrekta tester. Dessutom tränas generativ AI på en så stor mängd data att ingen människa kunde läsa eller övervaka den under sin livstid. Detta, tillsammans med det faktum att dess svar genereras slumpmässigt, betyder att det är nästan omöjligt för programmerare att förutse problem.
Den här boten föreslår att du inte ska använda *varje* ingrediens du har…
Om alla inte var så redo att omfamna AI som en allvetande överherre, och folk inte var så snabba att acceptera robotorder (se: antalet förare som följde GPS in i stora vattendrag) så kanske Savey Meal- bot skulle vara en rolig historia.
Som tur är har ingen kommit till skada. Med AI som distribueras på så många områden som möjligt är det dock bra att påminnas om att det har brister – det kan vara dödligt. Även om det bara är för idioter. Vi kl Tech HQ ser fram emot en ny kategori av Darwin Awards-vinnare.
