Metaverse Facebooku môže byť obídený hlbokými falzifikátmi a inými dezinformáciami, ak tieto neziskové organizácie neuspejú

Metaverse Facebooku môže byť obídený hlbokými falzifikátmi a inými dezinformáciami, ak tieto neziskové organizácie neuspejú

Vedec pre virtuálnu realitu Marka Zuckerberga, jednoducho prezývaný Meta, zápasil s množstvom problémov od technologických problémov až po problémy s udržaním sa zamestnancov. To neznamená, že ho čoskoro nebudú využívať miliardy ľudí. Meta narazila na nový problém. Je virtuálne prostredie, kde si používatelia môžu vytvárať vlastné návrhy tváre, rovnaké pre všetkých? Alebo budú mať firmy a politici väčšiu flexibilitu pri zmene vzhľadu?

Rand Waltzman je hlavným informačným vedcom v neziskovom inštitúte RAND. A minulý týždeň varoval, že lekcie, ktoré sa Facebook naučil pri personalizácii svojho spravodajského kanála a umožnení vysoko cielených informácií, by sa mohli použiť na zvýšenie miery jeho identifikácie. V tejto definícii môžu byť reproduktory prispôsobené tak, aby zneli dôveryhodnejšie pre každého člena publika. Pomocou technológie deepfake, ktorá vytvára realistické, ale falošné videá, možno reproduktor upraviť tak, aby obsahoval 40 % funkcií členov publika bez toho, aby o tom publikum vedelo.

Meta už prijala opatrenia na vyriešenie problému. Ostatné firmy ale neváhajú. The New York Times a CBC Canada spustili Project Origin pred dvoma rokmi s cieľom vyvinúť technológiu, ktorá by dokázala, že správa pochádza od svojho zdroja. Project Origin, Adobe, Intel a Sony sa stali súčasťou Aliancie pre tvorbu obsahu a originalitu. Niektoré skoré verzie Project Origin, vrátane tých, ktoré sledujú zdroj informácií online, sú už k dispozícii. Teraz otázka znie: Kto to bude používať?

“Môžeme poskytnúť rozšírené informácie na overenie zdroja informácií, ktoré dostávajú,” hovorí Bruce MacCormack, hlavný poradca CBC Radio-Canada pre iniciatívy na obhajobu dezinformácií a spoluzakladateľ projektu Origin. “Facebook sa musí rozhodnúť, koľko spotrebuje a použije v ich systéme, a musí zistiť, ako to vložiť do svojich algoritmov a systémov, o ktorých nemáme žiadny prehľad.”

Project Origin, založený v roku 2020, je program, ktorý umožňuje divákom určiť a dokázať, či informácie údajne pochádzajú z dôveryhodného spravodajského zdroja. To znamená, že nedochádza k žiadnej manipulácii. Namiesto spoliehania sa na blockchain alebo akúkoľvek inú technológiu distribuovanej účtovnej knihy na sledovanie pohybu informácií cez internet, ako by to mohlo byť možné v budúcich verziách takzvaného Web3, technológia označuje informácie údajmi o tom, odkiaľ pochádzajú a čo sa s nimi pohybuje. ako sa kopíruje a šíri. Povedal, že členom bola sprístupnená skorá verzia vývojového programu a teraz sa môže používať.


kliknite priamo tu Ak chcete predplatiť SME CryptoAsset & Blockchain Advisor


Meta dezinformácie sú viac než len falošné správy. Aby sa znížilo prekrývanie riešení Project Origin a iných podobných technológií, ktoré sa zameriavajú na rôzne typy podvodov – a aby sa zabezpečila kompatibilita riešení – nezisková organizácia spustila vo februári 2021 koalíciu pre tvorbu obsahu a autentickosť, aby overila pravosť niekoľkých druhy duševného vlastníctva. Spoločnosť Adobe je na zozname Blockchain 50 a prevádzkuje iniciatívu Content Originality Initiative. Táto iniciatíva, ohlásená v októbri 2021, ukáže, že NFT vytvorené pomocou softvéru sú skutočne vytvorené umelcom.

„Asi pred rokom a pol sme sa rozhodli, že skutočne máme rovnaký prístup a pracujeme rovnakým smerom,“ hovorí MacCormack. “Chceli sme sa uistiť, že sa dostaneme na jedno miesto. Nevytvorili sme dve konkurenčné sady technológií.”

Meta rozpoznáva deepfakes. Problémom je nedostatok dôvery v informácie. MacCormack a Google spoluzaložili partnerstvo v oblasti umelej inteligencie. Táto skupina, MacCormack a IBM Tips, bola spustená v septembri 2016. Jej cieľom je zlepšiť kvalitu technológie používanej na vytváranie deepfakes. V júni 2020 boli zverejnené výsledky súťaže Deep Fake Detection Challenge, ktorú viedla sociálna sieť. Tieto výsledky ukázali, že programy na detekciu falzifikátov boli úspešné iba na 65 %.

Riešenie tohto problému nie je len etický problém, ale ovplyvní rastúci počet firemných ziskov. McKinsey Research zistil, že investície do metaverse za prvý polrok 2022 sa už zdvojnásobili. Tiež predpovedali, že do roku 2030 bude mať toto odvetvie hodnotu 5 biliónov dolárov. Mohlo by to zmeniť tento boom na krach.

MacCormack uvádza, že hĺbka falošného softvéru sa zlepšuje rýchlejšie ako čas vykonania. Jedným z dôvodov, prečo kladú väčší dôraz na schopnosť informácií dokázať, že pochádzajú od zdroja. “Ak by ste detekčné nástroje vypustili do prírody, už len na základe povahy toho, ako funguje AI, falzifikáty by to vylepšilo. A veci veľmi rýchlo vylepšovali, až do bodu, keď životný cyklus nástroja alebo životnosť nástroja by bola kratšia ako čas potrebný na nasadenie nástroja, čo znamená, že sa do toho vôbec nemôžete pustiť.

Podľa McCormacka sa problém bude len zhoršovať. Minulý týždeň nováčikový konkurent Dall-E Sama Altmana s názvom Stable Diffusion, ktorý umožňuje používateľom vytvárať fotorealistické obrázky hneď, ako sú opísané, otvoril svoj zdrojový kód pre kohokoľvek. Podľa MacCormacka to znamená, že je len otázkou času, kedy sa obídu záruky, ktoré OpenAI implementuje na zamedzenie vytvárania určitých typov obsahu.

“Je to niečo ako nešírenie,” hovorí McCormack. “Raz je, je. Takže skutočnosť, že tento kód bol nasadený bez kolaterálu, znamená, že existuje očakávanie, že počet prípadov škodlivého použitia sa začne v najbližších mesiacoch dramaticky zvyšovať.”

Leave a Reply

Your email address will not be published.