A yw'r bobl ffug hyn a grëwyd gan AI yn edrych yn real i chi? - New York Times

0 32



Erbyn hyn mae yna fusnesau sy'n gwerthu pobl ffug. Ar wefan Generated.Photos, gallwch brynu person ffug “unigryw, di-bryder” am $ 2.99, neu 1,000 o bobl am $ 1,000. Os mai dim ond cwpl o bobl ffug sydd eu hangen arnoch chi - ar gyfer cymeriadau mewn gêm fideo, neu i wneud gwefan eich cwmni ymddangos yn fwy amrywiol - gallwch gael eu lluniau am ddim ar ThisPersonDoesNotExist.com. Addaswch eu tebygrwydd yn ôl yr angen; eu gwneud yn hen neu'n ifanc neu'n ethnigrwydd o'ch dewis. Os ydych chi am i'ch person ffug gael ei animeiddio, gall cwmni o'r enw Rosebud.AI wneud hynny a gall hyd yn oed wneud iddyn nhw siarad.

Mae'r bobl efelychiedig hyn yn dechrau ymddangos o amgylch y rhyngrwyd, yn cael eu defnyddio fel masgiau gan bobl go iawn gyda bwriad di-ffael: ysbïwyr sy'n rhoi wyneb deniadol mewn ymdrech i ymdreiddio i'r gymuned gudd-wybodaeth; propagandwyr asgell dde sy'n cuddio y tu ôl i broffiliau ffug, llun a phob un; ar-lein aflonyddwyr sy'n trolio eu targedau gydag wyneb cyfeillgar.

Fe wnaethon ni greu ein system AI ein hunain i ddeall pa mor hawdd yw cynhyrchu gwahanol wynebau ffug.

Mae'r system AI yn gweld pob wyneb fel ffigur mathemategol cymhleth, ystod o werthoedd y gellir eu symud. Gall dewis gwahanol werthoedd - fel y rhai sy'n pennu maint a siâp llygaid - newid y ddelwedd gyfan.

Ar gyfer rhinweddau eraill, defnyddiodd ein system ddull gwahanol. Yn lle symud gwerthoedd sy'n pennu rhannau penodol o'r ddelwedd, cynhyrchodd y system ddwy ddelwedd yn gyntaf i sefydlu pwyntiau cychwyn a gorffen ar gyfer yr holl werthoedd, ac yna creu delweddau rhyngddynt.

Dim ond yn ystod y blynyddoedd diwethaf y daethpwyd o hyd i greu'r mathau hyn o ddelweddau ffug, diolch i fath newydd o ddeallusrwydd artiffisial o'r enw rhwydwaith gwrthwynebus cynhyrchiol. Yn y bôn, rydych chi'n bwydo rhaglen gyfrifiadurol griw o luniau o bobl go iawn. Mae'n eu hastudio ac yn ceisio llunio ei luniau ei hun o bobl, tra bod rhan arall o'r system yn ceisio canfod pa rai o'r lluniau hynny sy'n ffug.

Mae'r cefn ac ymlaen yn gwneud y cynnyrch terfynol yn fwy byth yn wahanol i'r peth go iawn. Cafodd y portreadau yn y stori hon eu creu gan The Times gan ddefnyddio meddalwedd GAN a oedd ar gael i'r cyhoedd gan y cwmni graffeg cyfrifiadurol Nvidia.

O ystyried cyflymder y gwelliant, mae'n hawdd dychmygu dyfodol sydd ddim mor bell lle rydyn ni'n wynebu nid yn unig bortreadau sengl o bobl ffug ond casgliadau cyfan ohonyn nhw - mewn parti gyda ffrindiau ffug, yn hongian allan â'u cŵn ffug, dal eu babanod ffug. Bydd yn dod yn fwyfwy anodd dweud pwy sy'n real ar-lein a phwy sy'n ddychymyg cyfrifiadur.

“Pan ymddangosodd y dechnoleg gyntaf yn 2014, roedd yn ddrwg - roedd yn edrych fel y sims, ”Meddai Camille François, ymchwilydd dadffurfiad a'i waith yw dadansoddi triniaeth rhwydweithiau cymdeithasol. “Mae'n ein hatgoffa o ba mor gyflym y gall y dechnoleg esblygu. Dim ond dros amser y bydd canfod yn mynd yn anoddach. ”

Mae datblygiadau mewn nwyddau wyneb wedi bod yn bosibl yn rhannol oherwydd bod technoleg wedi dod gymaint yn well wrth nodi nodweddion wyneb allweddol. Gallwch ddefnyddio'ch wyneb i ddatgloi eich ffôn clyfar, neu ddweud wrth eich meddalwedd lluniau i ddidoli trwy eich miloedd o luniau a dangos dim ond rhai eich plentyn i chi. Defnyddir rhaglenni adnabod wynebau gan orfodaeth cyfraith i nodi ac arestio pobl sydd dan amheuaeth o droseddu (a hefyd gan rhai gweithredwyr i ddatgelu pwy yw swyddogion heddlu sy'n gorchuddio eu tagiau enw mewn ymgais i aros yn anhysbys). Cwmni o'r enw Clearview AI crafu'r we o biliynau o luniau cyhoeddus - a rennir yn achlysurol ar-lein gan ddefnyddwyr bob dydd - i greu ap sy'n gallu adnabod dieithryn o un llun yn unig. Mae'r dechnoleg yn addo uwch-bwerau: y gallu i drefnu a phrosesu'r byd mewn ffordd nad oedd yn bosibl o'r blaen.

Ond nid yw algorithmau adnabod wynebau, fel systemau AI eraill, yn berffaith. Diolch i ragfarn sylfaenol yn y data a ddefnyddir i'w hyfforddi, nid yw rhai o'r systemau hyn cystal, er enghraifft, wrth gydnabod pobl o liw. Yn 2015, system canfod delweddau gynnar a ddatblygwyd gan Google wedi'i labelu dau berson Du fel “gorilaod,” yn fwyaf tebygol oherwydd bod y system wedi cael llawer mwy o luniau o gorilaod nag o bobl â chroen tywyll.

Ar ben hynny, mae camerâu - llygaid systemau adnabod wynebau ddim cystal wrth ddal pobl â chroen tywyll; mae'r safon anffodus honno'n dyddio i ddyddiau cynnar datblygu ffilm, wrth dynnu lluniau eu graddnodi i ddangos orau'r wynebau pobl â chroen ysgafn. Gall y canlyniadau fod yn ddifrifol. Ym mis Ionawr, arestiwyd dyn Du yn Detroit o’r enw Robert Williams trosedd na chyflawnodd oherwydd cyfatebiaeth adnabod wyneb anghywir.

Gall deallusrwydd artiffisial wneud ein bywydau yn haws, ond yn y pen draw mae mor ddiffygiol ag yr ydym ni, oherwydd ein bod y tu ôl i'r cyfan. Mae bodau dynol yn dewis sut mae systemau AI yn cael eu gwneud a pha ddata maen nhw'n agored iddo. Rydyn ni'n dewis y lleisiau sy'n dysgu cynorthwywyr rhithwir i'w clywed, gan arwain y systemau hyn i beidio â deall pobl gydag acenion. Rydym yn dylunio rhaglen gyfrifiadurol i ragfynegi ymddygiad troseddol unigolyn trwy fwydo data iddo am ddyfarniadau yn y gorffennol a wnaed gan farnwyr dynol - ac yn y broses pobi yn rhagfarnau'r beirniaid hynny. Rydyn ni'n labelu'r delweddau sy'n hyfforddi cyfrifiaduron i'w gweld; yna maent yn cysylltu sbectol gyda “dweebs” neu “nerds."

Gallwch chi sylwi ar rai o'r camgymeriadau a'r patrymau y gwnaethon ni ddarganfod bod ein system AI yn ailadrodd pan oedd yn creu wynebau ffug.


Mae bodau dynol yn cyfeiliorni, wrth gwrs: Rydyn ni'n anwybyddu neu'n gwydro heibio'r diffygion yn y systemau hyn, yn rhy gyflym i ymddiried bod cyfrifiaduron yn hyper-resymol, yn wrthrychol, bob amser yn iawn. Mae astudiaethau wedi dangos, mewn sefyllfaoedd lle mae'n rhaid i fodau dynol a chyfrifiaduron gydweithredu i wneud penderfyniad - i nodi olion bysedd or wynebau dynol - pobl yn gyson gwneud yr adnabod anghywir pan wnaeth cyfrifiadur eu noethi i wneud hynny. Yn nyddiau cynnar systemau GPS dangosfwrdd, gyrwyr yn enwog dilyn cyfarwyddiadau’r dyfeisiau ar fai, anfon ceir i mewn i lynnoedd, oddi ar glogwyni ac i mewn i goed.

A yw'r gostyngeiddrwydd neu'r hubris hwn? Ydyn ni'n rhoi rhy ychydig o werth mewn deallusrwydd dynol - neu ydyn ni'n ei or-ddweud, gan dybio ein bod ni mor graff fel y gallwn ni greu pethau'n ddoethach o hyd?

Mae algorithmau Google a Bing yn didoli gwybodaeth y byd i ni. Mae newyddion Facebook yn hidlo'r diweddariadau o'n cylchoedd cymdeithasol ac yn penderfynu pa rai sy'n ddigon pwysig i'w dangos i ni. Gyda nodweddion hunan-yrru mewn ceir, rydyn ni rhoi ein diogelwch yn y dwylo (a'r llygaid) o feddalwedd. Rydym yn rhoi llawer o ymddiriedaeth yn y systemau hyn, ond gallant fod mor ffaeledig â ni.

Mwy o Erthyglau ar Ddeallusrwydd Artiffisial:

Hyfforddi Cydnabyddiaeth Wyneb ar Rai Ffrindiau Newydd Ffwr: Eirth

Gwrthgyrff Da. Moleciwlau a Wneir gan Beiriant yn Well?

Gallai'r algorithmau hyn ddod â diwedd i laddwr mwyaf marwol y byd

Ymddangosodd yr erthygl hon gyntaf (yn Saesneg) ar https://www.nytimes.com/interactive/2020/11/21/science/artificial-intelligence-fake-people-faces.html

Gadael sylw

Ni fydd eich cyfeiriad e-bost yn cael ei gyhoeddi.