E lëshuar të enjten, familja e modeleve PaliGemma 2 mund të analizojë imazhet, duke lejuar AI të gjenerojë përshkrime dhe t’u përgjigjet pyetjeve rreth njerëzve që “sheh” në foto.
“PaliGemma 2 gjeneron përshkrime të detajuara, të përshtatshme kontekstuale të imazheve,” shkroi Google në një postim në blog të ndarë me TechCrunch, “duke shkuar përtej identifikimit të thjeshtë të objektit për të përshkruar veprimet, emocionet dhe narrativën e përgjithshme të skenës.”
Njohja e emocioneve nuk funksionon menjëherë dhe PaliGemma 2 duhet të rregullohet mirë për këtë qëllim. Megjithatë, ekspertët me të cilët foli TechCrunch ishin të shqetësuar për mundësinë e një detektori emocionesh të disponueshëm hapur.
“Kjo është shumë shqetësuese për mua,” tha për TechCrunch Sandra Wachter, një profesore e etikës së të dhënave dhe inteligjencës artificiale në Institutin e Internetit të Oksfordit. “Më duket problematike të supozojmë se ne mund të ‘lexojmë’ emocionet njerëzore. Është si të kërkosh këshilla nga Magic 8 Top.”
Për vite të tëra, startup-et dhe gjigantët e teknologjisë janë përpjekur të ndërtojnë inteligjencë artificiale që mund të zbulojë emocionet për gjithçka, nga trajnimi i shitjeve deri tek parandalimi i aksidenteve. Disa pretendojnë se e kanë arritur këtë, por shkenca qëndron mbi baza të lëkundshme empirike.
Shumica e detektorëve të emocioneve mbështeten në punën e hershme të Paul Ekman, një psikolog i cili teorizoi se njerëzit ndajnë gjashtë emocione themelore të përbashkëta: zemërimi, befasia, neveria, kënaqësia, frika dhe trishtimi. Hulumtimet e mëvonshme kanë hedhur dyshime mbi hipotezën e Ekman, megjithatë, duke treguar se ka dallime të mëdha në mënyrën se si njerëzit me prejardhje të ndryshme shprehin ndjenjat e tyre.
“Zbulimi i emocioneve nuk është i mundur në rastin e përgjithshëm sepse njerëzit përjetojnë emocione në mënyra komplekse,” tha për TechCrunch Mike Cook, një studiues në King’s College në Londër, i specializuar në inteligjencën artificiale. “Sigurisht, ne mendojmë se mund të kuptojmë se çfarë ndjejnë njerëzit e tjerë duke i parë ata, dhe shumë njerëz gjatë viteve kanë provuar gjithashtu, si agjencitë e spiunazhit apo kompanitë e marketingut. Jam i sigurt se është absolutisht e mundur të zbulohen disa shënues gjenerikë në disa raste, por kjo nuk është diçka që ne mund ta “zgjidhim” plotësisht.
Një pasojë jo befasuese është se sistemet e zbulimit të emocioneve priren të jenë jo të besueshme dhe të njëanshme nga supozimet e projektuesve të tyre. Në një studim të MIT të vitit 2020, studiuesit treguan se modelet e analizës së fytyrës mund të zhvillojnë preferenca të paqëllimshme për shprehje të caktuara, të tilla si buzëqeshjet. Puna më e fundit sugjeron që modelet e analizës së emocioneve u atribuojnë më shumë emocione negative fytyrave të zeza sesa fytyrave të bardha.
Google thotë se kreu “testim të gjerë” për të vlerësuar paragjykimet demografike në PaliGemma 2 dhe gjeti “nivele të ulëta toksiciteti dhe blasfemie” në krahasim me standardet e industrisë. Por kompania nuk dha një listë të plotë të standardeve që përdori, as nuk tregoi se çfarë lloje testesh janë kryer.
E vetmja pikë referimi që Google ka zbuluar është FairFace, një koleksion me dhjetëra mijëra imazhe të kokave njerëzore. Kompania pretendon se PaliGemma 2 shënoi mirë në FairFace. Por disa studiues e kanë kritikuar standardin si një metrikë paragjykimesh, duke theksuar se FairFace përfaqëson vetëm disa grupe racore.
“Interpretimi i emocioneve është një çështje mjaft subjektive që shtrihet përtej përdorimit të ndihmave vizuale dhe është e ngulitur shumë në kontekstin personal dhe kulturor,” tha Heidi Kalaf, shkencëtare kryesore e inteligjencës artificiale në Institutin AI Tani, një organizatë jofitimprurëse që studion çështjet sociale. implikimet e inteligjencës artificiale. “Pas inteligjencës artificiale, hulumtimi ka treguar se ne nuk mund të nxjerrim emocione bazuar vetëm në tiparet e fytyrës.
Sistemet e zbulimit të emocioneve kanë tërhequr zemërimin e rregullatorëve jashtë vendit, të cilët kanë kërkuar të kufizojnë përdorimin e teknologjisë në kontekste me rrezik të lartë.
