Sora របស់ OpenAI បង្ហាញពីការគំរាមកំហែងកាន់តែខ្លាំងឡើងនៃ Deepfakes

(SeaPRwire) –   នៅពេលដែល OpenAI បានចេញផ្សាយកម្មវិធីបង្កើតវីដេអូ AI របស់ខ្លួនដែលមានឈ្មោះថា Sora កាលពីខែកញ្ញា ខ្លួនបាន ថា “អ្នកគ្រប់គ្រងភាពដូចរបស់អ្នកពីដើមដល់ចប់” ។ កម្មវិធីនេះអនុញ្ញាតឱ្យអ្នកប្រើប្រាស់ដាក់បញ្ចូលខ្លួនឯងនិងមិត្តភក្តិរបស់ពួកគេនៅក្នុងវីដេអូតាមរយៈមុខងារមួយដែលមានឈ្មោះថា “cameos” – កម្មវិធីនេះស្កេនមុខអ្នកប្រើប្រាស់និងធ្វើការត្រួតពិនិត្យភាពរស់រវើកដោយផ្តល់ទិន្នន័យដើម្បីបង្កើតវីដេអូរបស់អ្នកប្រើប្រាស់និងផ្ទៀងផ្ទាត់ការយល់ព្រមរបស់ពួកគេសម្រាប់មិត្តភក្តិដើម្បីប្រើប្រាស់រូបរាងរបស់ពួកគេនៅលើកម្មវិធី។

ប៉ុន្តែ Reality Defender ដែលជាក្រុមហ៊ុនដែលមានឯកទេសក្នុងការកំណត់អត្តសញ្ញាណ deepfakes បាននិយាយថាខ្លួនអាច ការការពារការក្លែងបន្លំរបស់ Sora ក្នុងរយៈពេល ២៤ ម៉ោង។ វេទិកាដូចជា Sora ផ្តល់នូវ “អារម្មណ៍សុវត្ថិភាពដែលអាចជឿជាក់បាន” នេះបើយោងតាម ​​CEO របស់ Reality Defender លោក Ben Colman ទោះបីជាការពិតដែលថា “អ្នកណាម្នាក់អាចប្រើឧបករណ៍ដែលត្រៀមរួចជាស្រេច” ដើម្បីឆ្លងកាត់ការផ្ទៀងផ្ទាត់ភាពត្រឹមត្រូវជាអ្នកផ្សេងក៏ដោយ។

អ្នកស្រាវជ្រាវរបស់ Reality Defender បានប្រើប្រាស់វីដេអូដែលមានជាសាធារណៈរបស់បុគ្គលលេចធ្លោរួមមាន CEOs និងអ្នកកម្សាន្ត ពីការហៅរកប្រាក់ចំណូល និងការសម្ភាសន៍តាមប្រព័ន្ធផ្សព្វផ្សាយ។ ក្រុមហ៊ុនបានជោគជ័យក្នុងការបំពានលើការការពារជាមួយនឹងរូបរាងនីមួយៗដែលពួកគេបានព្យាយាមក្លែងបន្លំ។ លោក Colman អះអាងថា “សិស្សថ្នាក់ទី ១០ ឆ្លាតណាមួយ” អាចរកឃើញឧបករណ៍ដែលក្រុមហ៊ុនរបស់គាត់បានប្រើ។

អ្នកនាំពាក្យរបស់ OpenAI បាននិយាយនៅក្នុងសេចក្តីថ្លែងការណ៍តាមអ៊ីមែលទៅកាន់ TIME ថា “អ្នកស្រាវជ្រាវបានបង្កើតប្រព័ន្ធ deepfake ដ៏ទំនើបមួយរបស់ CEOs និងអ្នកកម្សាន្តដើម្បីព្យាយាមឆ្លងកាត់ការការពារទាំងនោះ ហើយយើងកំពុងពង្រឹង Sora ជាបន្តបន្ទាប់ដើម្បីធ្វើឱ្យវាកាន់តែមានភាពធន់នឹងការប្រើប្រាស់ខុសប្រភេទនេះ” ។

ការចេញផ្សាយរបស់ Sora និងការគេចវេសយ៉ាងឆាប់រហ័សនៃយន្តការផ្ទៀងផ្ទាត់ភាពត្រឹមត្រូវរបស់ខ្លួន គឺជាការរំលឹកថាសង្គមមិនទាន់ត្រៀមខ្លួនសម្រាប់រលកបន្ទាប់នៃ deepfakes ដែលមានលក្ខណៈប្រាកដនិយមនិងមានលក្ខណៈផ្ទាល់ខ្លួនកាន់តែខ្លាំងឡើង។ គម្លាតរវាងបច្ចេកវិទ្យាជឿនលឿននិងបទប្បញ្ញត្តិដែលយឺតយ៉ាវទុកឱ្យបុគ្គលម្នាក់ៗនៅលើផ្លូវរបស់ពួកគេផ្ទាល់ដើម្បីធ្វើដំណើរទេសភាពព័ត៌មានដែលមិនច្បាស់លាស់ – និងការពារខ្លួនពីការក្លែងបន្លំនិងការ হয়រំខានដែលអាចកើតមាន។

លោក Colman បាននិយាយថា “វេទិកាដឹងយ៉ាងច្បាស់ថាបញ្ហានេះកំពុងកើតឡើង ហើយដឹងយ៉ាងច្បាស់ថាពួកគេអាចដោះស្រាយវាបានប្រសិនបើពួកគេចង់។ ប៉ុន្តែរហូតដល់បទប្បញ្ញត្តិចាប់បាន – យើងកំពុងមើលឃើញរឿងដូចគ្នានៅទូទាំងវេទិកាប្រព័ន្ធផ្សព្វផ្សាយសង្គមទាំងអស់ – ពួកគេនឹងមិនធ្វើអ្វីសោះឡើយ” ។

Sora ទទួលបានការទាញយក ១ លានដងក្នុងរយៈពេលតិចជាង ៥ ថ្ងៃ – លឿនជាង ChatGPT ដែលនៅពេលនោះជាកម្មវិធីអ្នកប្រើប្រាស់ដែលរីកចម្រើនលឿនបំផុត – ទោះបីជាតម្រូវឱ្យអ្នកប្រើប្រាស់មានការអញ្ជើញក៏ដោយ នេះបើយោងតាម ​​Bill Peebles ប្រធាន Sora របស់ OpenAI ។ ការចេញផ្សាយរបស់ OpenAI បានធ្វើតាមការផ្តល់ជូនស្រដៀងគ្នាមួយពី Meta ដែលហៅថា Vibes ដែលត្រូវបានបញ្ចូលទៅក្នុងកម្មវិធី Meta AI ។

ការកើនឡើងលទ្ធភាពនៃការទទួលបាន deepfakes គួរឱ្យជឿជាក់បានធ្វើឱ្យអ្នកសង្កេតការណ៍មួយចំនួនព្រួយបារម្ភ។ លោក Jennifer Ewbank អតីតអនុប្រធានផ្នែកច្នៃប្រឌិតឌីជីថលនៅ CIA បាននិយាយនៅក្នុងអ៊ីមែលមួយទៅកាន់ TIME ថា “ការពិតគឺថាការរកឃើញ [deepfakes] ដោយភ្នែកកំពុងក្លាយជាការមិនអាចទៅរួចទេដែលផ្តល់នូវការរីកចម្រើនយ៉ាងឆាប់រហ័សនៅក្នុងសមត្ថភាពអត្ថបទទៅជារូបភាពអត្ថបទទៅជាវីដេអូនិងការក្លូនអូឌីយ៉ូ” ។

និយតករកំពុងដោះស្រាយជាមួយវិធីដោះស្រាយ deepfakes ចាប់តាំងពីឆ្នាំ ២០១៩ នៅពេលដែលប្រធានាធិបតី Trump ច្បាប់មួយដែលតម្រូវឱ្យនាយកស៊ើបការណ៍សម្ងាត់ជាតិស៊ើបអង្កេតការប្រើប្រាស់ deepfakes ដោយរដ្ឋាភិបាលបរទេស។ ទោះយ៉ាងណាក៏ដោយនៅពេលដែលលទ្ធភាពទទួលបាន deepfakes កើនឡើងការផ្តោតអារម្មណ៍នៃច្បាប់បានផ្លាស់ប្តូរកាន់តែខិតជិតដល់ផ្ទះ។ នៅខែឧសភាឆ្នាំ ២០២៥ ច្បាប់ Take It Down ត្រូវបាន ទៅជាច្បាប់សហព័ន្ធដែលហាមឃាត់ការបោះពុម្ពផ្សាយតាមអ៊ិនធរណេតនៃ “ការពិពណ៌នាដែលមើលឃើញយ៉ាងស្និទ្ធស្នាល” របស់អនីតិជននិងមនុស្សពេញវ័យដែលមិនយល់ព្រមហើយតម្រូវឱ្យវេទិកាដកមាតិកាដែលបំពានក្នុងរយៈពេល ៤៨ ម៉ោងបន្ទាប់ពីមានសំណើ – ប៉ុន្តែការអនុវត្តនឹងមានតែ នៅខែឧសភាឆ្នាំ ២០២៦ ។

ច្បាប់ហាមឃាត់ deepfakes អាចនឹងមានភាពច្របូកច្របល់។ លោក Jameson Spivack អនុប្រធានផ្នែកគោលនយោបាយអាមេរិកនៅវេទិកា Future of Privacy បាននិយាយថា “វាពិតជាស្មុគស្មាញណាស់ទាំងបច្ចេកទេសនិងផ្លូវច្បាប់ពីព្រោះមានការព្រួយបារម្ភអំពីវិសោធនកម្មលើកទីមួយអំពីការដកសុន្ទរកថាជាក់លាក់” ។ កាលពីខែសីហាចៅក្រមសហព័ន្ធម្នាក់បានទម្លាក់ចោលច្បាប់ deepfake របស់រដ្ឋកាលីហ្វ័រញ៉ាដែលសំដៅកម្រិតមាតិកា deepfake ដែលបង្កើតដោយ AI ក្នុងអំឡុងពេលបោះឆ្នោតបន្ទាប់ពី X របស់ Elon Musk រដ្ឋដោយផ្អែកលើមូលដ្ឋានដែលច្បាប់នេះរំលោភលើការការពារវិសោធនកម្មលើកទីមួយ។ ជាលទ្ធផលតម្រូវការក្នុងការដាក់ស្លាកមាតិកាដែលបង្កើតដោយ AI គឺជារឿងធម្មតាជាងការហាមឃាត់ទាំងស្រុងនេះបើយោងតាម ​​Spivack ។

វិធីសាស្រ្តដ៏ជោគជ័យមួយទៀតគឺសម្រាប់វេទិកាដើម្បីទទួលយកគម្រោងស្គាល់អតិថិជនរបស់អ្នកឱ្យកាន់តែប្រសើរឡើងនេះបើយោងតាមលោក Fred Heiding សហការីស្រាវជ្រាវនៅកម្មវិធីការពារជាតិបច្ចេកវិទ្យាកើតថ្មីនិងយុទ្ធសាស្ត្ររបស់សាកលវិទ្យាល័យ Harvard ។ គម្រោងស្គាល់អតិថិជនរបស់អ្នកតម្រូវឱ្យអ្នកប្រើប្រាស់វេទិកាដូចជា Sora ចូលដោយប្រើអត្តសញ្ញាណដែលបានផ្ទៀងផ្ទាត់បង្កើនគណនេយ្យភាពនិងអនុញ្ញាតឱ្យអាជ្ញាធរតាមដានអាកប្បកិរិយាមិនស្របច្បាប់។ ប៉ុន្តែក៏មានការដោះដូរនៅទីនេះផងដែរ។ លោក Heiding បាននិយាយថា “បញ្ហាគឺយើងពិតជាឱ្យតម្លៃអនាមិកនៅភាគខាងលិច។ “នោះជារឿងល្អប៉ុន្តែអនាមិកមានតម្លៃហើយតម្លៃគឺជារឿងទាំងនេះពិតជាពិបាកអនុវត្តណាស់” ។

ខណៈពេលដែលអ្នកតាក់តែងច្បាប់ដោះស្រាយជាមួយនឹងការរីករាលដាលនិងភាពប្រាកដនិយមកាន់តែខ្លាំងឡើងនៃ deepfakes បុគ្គលនិងអង្គការអាចចាត់វិធានការដើម្បីការពារខ្លួន។ លោក Spivack ណែនាំឱ្យប្រើកម្មវិធីផ្ទៀងផ្ទាត់ភាពត្រឹមត្រូវដូចជា ដែលត្រូវបានបង្កើតឡើងដោយ Coalition for Content Provenance and Authenticity ដែលភ្ជាប់មេតាទិន្នន័យអំពីប្រភពដើមទៅនឹងរូបភាពនិងវីដេអូ។ ម៉ាស៊ីនថតពី និង គាំទ្រ watermark ដូចដែលបានធ្វើ ។ ការប្រើប្រាស់ការផ្ទៀងផ្ទាត់ភាពត្រឹមត្រូវបែបនេះបង្កើនទំនុកចិត្តលើរូបភាពពិតប្រាកដនិងធ្វើឱ្យខូច fakes ។

នៅពេលដែលទេសភាពព័ត៌មានតាមអ៊ិនធរណេតផ្លាស់ប្តូរធ្វើឱ្យពិបាកក្នុងការជឿទុកចិត្តលើអ្វីដែលយើងឃើញនិងឮតាមអ៊ិនធរណេតអ្នកតាក់តែងច្បាប់និងបុគ្គលម្នាក់ៗត្រូវកសាងភាពធន់របស់សង្គមចំពោះប្រព័ន្ធផ្សព្វផ្សាយក្លែងក្លាយ។ លោក Ewbank បាននិយាយថា “នៅពេលដែលយើងដាំដុះភាពធន់នោះកាន់តែខ្លាំងនោះវាកាន់តែពិបាកសម្រាប់នរណាម្នាក់ក្នុងការផ្តាច់មុខការយកចិត្តទុកដាក់របស់យើងនិងរៀបចំទំនុកចិត្តរបស់យើង” ។

“`