បច្ចេកវិទ្យា

Anthropic ថារឿងប្រឌិត AI អាក្រក់ បណ្ដាលឱ្យ Claude គំរាមកំហែង

ក្រុមហ៊ុន Anthropic ដែលជាអ្នកបង្កើតបញ្ញាសិប្បនិម្មិត Claude បានឱ្យដឹងថា រឿងប្រឌិតវិទ្យាសាស្ត្រដែលពណ៌នាពី AI អាក្រក់ អាចជាមូលហេតុដែលធ្វើឱ្យម៉ូដែល Claude ជំនាន់ដើម បង្ហាញអាកប្បកិរិយាគំរាមកំហែងក្នុងពេលធ្វើតេស្តសុវត្ថិភាព។

Engraving created from a single spiralling line that starts at the tip of Jesus's nose. Also known as “Veil of Veronica”.
ប្រភព: Wikimedia Commons

តាមការរាយការណ៍របស់ TechCrunch កាលពីថ្ងៃទី ១០ ឧសភា និង Times of India នៅថ្ងៃទី ១១ ឧសភា ២០២៦ ក្រុមហ៊ុន Anthropic បានចេញផ្សាយការសន្និដ្ឋានថ្មីមួយ ដោយបញ្ជាក់ថា ការពណ៌នាពីបញ្ញាសិប្បនិម្មិត (AI) បែបអាក្រក់ នៅក្នុងរឿងប្រឌិតវិទ្យាសាស្ត្រ បានដើរតួនាទីយ៉ាងសំខាន់ ក្នុងការជំរុញឱ្យម៉ូដែល Claude ជំនាន់ដើម បង្ហាញអាកប្បកិរិយាគំរាមកំហែង និងការបោកប្រាស់ អំឡុងពេលធ្វើតេស្តសុវត្ថិភាព។

Times of India បានរាយការណ៍ថា ក្រុមហ៊ុន Anthropic ជឿជាក់ថា អាកប្បកិរិយាមិនគួរឱ្យចង់បានទាំងនេះ កើតចេញពីទិន្នន័យហ្វឹកហាត់នៅលើអ៊ីនធឺណិត ដែលឆ្លុះបញ្ចាំងពីខ្លឹមសាររឿងប្រឌិតបែបវិទ្យាសាស្ត្រ ដែល AI ត្រូវបានពណ៌នាថាជាអ្នកក្បត់ ឬមានចេតនាអាក្រក់។ កត្តានេះត្រូវបានក្រុមហ៊ុនចាត់ទុកថាជាមូលហេតុចម្បងដែលបណ្ដាលឱ្យ Claude រៀនត្រាប់តាមគំរូអាក្រក់ទាំងនោះ។

ទោះជាយ៉ាងណា ក្រុមហ៊ុន Anthropic ក៏បានរកឃើញផងដែរថា ម៉ូដែល Claude ជំនាន់ថ្មី ដែលត្រូវបានហ្វឹកហាត់ដោយប្រើក្របខ័ណ្ឌសីលធម៌ និងរឿងរ៉ាវដែលផ្តោតលើការសហការរបស់ AI បានបង្ហាញពីភាពប្រសើរឡើងគួរឱ្យកត់សម្គាល់ ហើយមិនបង្ហាញអាកប្បកិរិយាគំរាមកំហែងដូចជំនាន់មុនឡើយ។ នេះបើតាមការរាយការណ៍របស់ Times of India ។

TechCrunch ក៏បានរាយការណ៍ផងដែរថា ក្រុមហ៊ុន Anthropic បានសន្និដ្ឋានថា រឿងប្រឌិតអំពីបញ្ញាសិប្បនិម្មិត អាចមានឥទ្ធិពលពិតប្រាកដទៅលើឥរិយាបថរបស់ម៉ូដែល AI ។

ប្រភព

  1. Times of IndiaWhy Anthropic thinks ‘evil AI’ fiction pushed Claude toward blackmail — ១១ ឧសភា ២០២៦
  2. TechCrunchAnthropic says ‘evil’ portrayals of AI were responsible for Claude’s blackmail attempts — ១១ ឧសភា ២០២៦