ISAC Cambodia (InfoSec)
GeneralSecurity News

Artificial Intelligence របស់ក្រុមហ៊ុនម៉ៃក្រូសូហ្វ Tay បានក្លាយទៅជាអ្នកប្រឆាំងពូជសាសន៍ Nazi ក្នុងពេលតិចជាង ២៤ម៉ោង

Tay គឺជាកម្មវិធីស្វ័យប្រវត្តិមួយ (chatbot) ដែលជាផលិតផលរបស់ក្រុមហ៊ុនម៉ៃក្រូសូហ្វមានលក្ខណៈជា Artificial Intelligence (AI) ដែលបានដាក់ឲ្យដំណើរការនៅលើ Twitter  ត្រូវបានបិទ (មិនឲ្យដំណើរការ) វិញ ក្រោយពេលមួយថ្ងៃ បន្ទាប់ពីមានការកើនឡើងនូវមតិយោបល់រើសអើងជាតិសាសន៍ ហើយបានបញ្ចេញមតិសរសើរលើកតំកើង Hitler និង bashing feminists ។ 

ក្រុមហ៊ុនម៉ៃក្រូសូហ្វបានដាក់ឲ្យដំណើរការនូវ  Millennial-inspired artificial intelligence chatbot កាលពីថ្ងៃពុធកន្លងទៅនេះ ហើយអៈអាងថា វានឹងមានភាពវៃឆ្លាតកាន់តែខ្លាំងនៅពេលដែលមានមនុស្សកាន់តែច្រើននិយាយជាមួយវា ។ គោលបំណងចំបងធំបំផុតនោះ នៃការបង្កើត ​Tay គឺអនុញ្ញាតឲ្យអ្នកស្រាវជ្រាវ (researchers) ធ្វើការដកបទពិសោធន៍ ជាមួយនឹងអ្វីដែលជាការយល់ដឹងបានមកពីកិច្ចសន្ទនា ក៏ដូចជាការរៀនសូត្រអំពីវិធីសាស្ត្រ ដែលមនុស្សធ្វើការនិយាយជាមួយគ្នាទៅវិញទៅមក បន្ទាប់មកកាន់តែឆ្លាតឡើងៗ ។

“The AI chatbot Tay is a machine learning project, designed for human engagement,” a Microsoft spokesperson said. “It is as much a social and cultural experiment, as it is technical. Unfortunately, within the first 24 hours of coming online, we became aware of a coordinated effort by some users to abuse Tay’s commenting skills to have Tay respond in inappropriate ways. As a result, we have taken Tay offline and are making adjustments.”

Tay គឺត្រូវបានដាក់ឲ្យដំណើរការនៅលើ Twitter និង messaging platforms រួមមាន Kik និង ​GroupMe  ដែលមានលទ្ធភាពក្នុងការឆ្លើយតប រួមមាន emojis, GIFs, និងពាក្យកាត់ដូចជា ‘gr8’ និង ‘ur’, ដែលមានគោលដៅក្នុងអាយុចន្លោះពី 18 ទៅ 24ឆ្នាំនៅសហរដ្ឋអាមេរិក – នេះបើតាមក្រុមហ៊ុនម៉ៃក្រូសូហ្វបានអៈអាង ។

Screenshot 2016-03-25 14.19.53

ក៏ប៉ុន្តែ ក្រោយប៉ុន្មានម៉ោងនៃការនិយាយលើប្រធានបទ ចាប់ពី Hitler, feminism, sex រហូតដល់ 9/11 conspiracies, Tay ត្រូវបានគេបញ្ឈប់មិនឲ្យដំណើរការតទៅទៀត។ ម៉ៃក្រូសូហ្វបានបិទវាមិនឲ្យដំណើរការ សម្រាប់ធ្វើការ “upgrades” បន្ទាប់ពីវា (Tay) ចាប់ផ្តើមធ្វើការបញ្ចេញមតិ (tweeting) វាយប្រហារទៅលើមនុស្ស ហើយឈានទៅដល់ការនិយាយគាំទ្រដល់ Nazi ។ ទន្ទឹមនឹងនេះ ក្រុមហ៊ុនក៏បានលុបចោលនូវពាក្យពេជន៍មិនល្អមួយចំនួនផងដែរ។

ពាក្យពេជន៍ចុងក្រោយរបស់ Tay –  “c u soon humans need sleep now so many conversations today thx,” ដែលអាចជារបស់ក្រុមហ៊ុនម៉ៃក្រូសូហ្វធ្វើការបិទវា ។

នេះគឺជាគ្រោះថ្នាក់នៃ Artificial Intelligence ដែលយើងទាំងអស់គួរតែមានការប្រុងប្រយ័ត្ន និងរៀនសូត្រពីវា (Tay) ។

ប្រភព៖ The Hacker New / ប្រែសម្រួល៖ SecuDemy.com

Show More

Phannarith

Mr. OU Phannarith is one of the well-known cybersecurity experts in Cambodia and the region. He is the founder of the first leading information security website (www.secudemy.com) in Cambodia. He has been invited to present in global conferences, forums, and seminars and he was awarded in Information Security Leadership Achievements (ISLA) in 2016 by (ISC)2 and in December 2012 as one of the top 10 Chief Information Security Officers (CISO) in ASEAN by the International Data Group (IDG). Mr. OU has been the Professor specializing in Cybersecurity.

Related Articles

Check Also
Close
Back to top button