จะควบคุม AI ได้อย่างไร? ผู้เชี่ยวชาญแนะปรับปรุงกฎหมายรับรองและระบบมาตรฐาน

ผู้เขียน: Xu Cihao

ที่มา: Financial Associated Press

‌แหล่งที่มาของรูปภาพ: สร้างโดยเครื่องมือ Unbounded AI

การเพิ่มขึ้นของ AI ที่เกิดจาก OpenAI ยังคงดำเนินต่อไป แต่ในขณะที่แอปพลิเคชันที่เกี่ยวข้องกับ AIGC ช่วยปรับปรุงประสิทธิภาพการผลิต อาชญากรยังใช้แอปพลิเคชันเหล่านี้เพื่อสร้างเนื้อหาเท็จและขัดขวางการทำงานตามปกติของสังคม

Guosen Securities Research Report ชี้ให้เห็นว่าแอปพลิเคชัน AI ในประเทศกำลังขยายตัวอย่างค่อยเป็นค่อยไป และแอปพลิเคชันที่เกี่ยวข้องกับ AI จะค่อยๆ เพิ่มขึ้น เมื่อคำนึงถึงความเสี่ยงของการละเมิด AI ความปลอดภัยของข้อมูล การเข้ารหัส และการกำกับดูแล AI ล้วนเป็นทิศทางการพัฒนาเทคโนโลยีที่สำคัญ

เมื่อไม่กี่วันที่ผ่านมา Meiya Pico ได้เปิดตัวผลิตภัณฑ์ใหม่ที่สามารถตรวจจับและจดจำวิดีโอ รูปภาพ และข้อความที่สร้างขึ้นโดย AI ในความเป็นจริง หน่วยงานที่เกี่ยวข้องในประเทศของเราได้สำรวจการกำกับดูแลทางกฎหมายของผลิตภัณฑ์และการใช้งานของ AIGC ผู้เชี่ยวชาญที่เกี่ยวข้องยังแนะนำว่าการจัดตั้งและปรับปรุงระบบกฎหมายที่เกี่ยวข้องเท่านั้นที่จะสามารถส่งเสริมการพัฒนาอุตสาหกรรม AIGC ในประเทศของฉันอย่างมั่นคงและยั่งยืน

Meiya Pico เปิดตัวผลิตภัณฑ์ควบคุม AI

เมื่อวันที่ 15 พฤษภาคม Meiya Pico ได้เผยแพร่บันทึกกิจกรรมนักลงทุนสัมพันธ์

บันทึกแสดงให้เห็นว่าในแง่ของผลิตภัณฑ์การตรวจสอบ AI บริษัทได้เปิดตัวเวิร์กสเตชันการตรวจสอบภาพวิดีโอ AI-3300 "Huiyan" ซึ่งสามารถตรวจสอบและระบุภาพวิดีโอสังเคราะห์และปลอมแปลงเชิงลึกและภาพวิดีโอที่สร้างโดย AIGC แพลตฟอร์มการตรวจจับ AIGC ที่เปิดตัวโดยบริษัทรองรับการตรวจจับและจดจำข้อความที่สร้างขึ้นโดย AIGC

ในขณะเดียวกัน Meiya Pico กล่าวว่าบริษัทที่ตามมาจะดำเนินการวิจัยเกี่ยวกับความปลอดภัยและกฎระเบียบของ AI ต่อไป ซึ่งรวมถึง AI ที่ต่อต้านการกำเนิด และปรับใช้ผลิตภัณฑ์ที่เกี่ยวข้องในเวลาที่เหมาะสมตามความต้องการทางธุรกิจ

นักข่าวจาก Metaverse NEWS ชื่อ Meiya Pico และบุคคลที่รับผิดชอบของบริษัทกล่าวว่าจากมุมมองของรูปแบบธุรกิจ ผลิตภัณฑ์รักษาความปลอดภัย AI ของบริษัทส่วนใหญ่ให้บริการแก่หน่วยงานกำกับดูแล เช่น ความปลอดภัยสาธารณะและข้อมูลเครือข่าย โดยมุ่งเป้าไปที่การใช้เทคโนโลยีกำเนิด บนอินเทอร์เน็ตเพื่อดำเนินกิจกรรมที่ผิดกฎหมาย การระบุ และระบุพฤติกรรมการเผยแพร่ข้อมูล นอกจากนี้ ยังให้บริการประเมินความปลอดภัยและการปฏิบัติตามข้อกำหนดสำหรับผู้ผลิตที่ให้บริการเชิงสร้างสรรค์

ผู้เชื่อมโยงดังกล่าวข้างต้นกล่าวอย่างตรงไปตรงมาว่าผู้ผลิตโมเดลขนาดใหญ่ในประเทศยังอยู่ในขั้นตอนของการเปิดตัวและการใช้งานในตลาด จากมุมมองของ B-side ความร่วมมือในสาขาธุรกิจยังอยู่ระหว่างการหารือ

"ด้วยเทคโนโลยีการปลอมแปลงขั้นสูงและเทคโนโลยี AIGC ที่ครบกำหนด เกณฑ์ทางเทคโนโลยีสำหรับการปลอมแปลงวิดีโอ เสียง และรูปภาพที่เกี่ยวข้องจึงลดลงอย่างมาก และความเสี่ยงของการละเมิดเทคโนโลยี AI ก็ขยายออกไปอีก และจำเป็นต้องเพิ่มการควบคุมดูแลอย่างเร่งด่วน" Angel Guo Tao Xiang Yuan นักลงทุนและผู้เชี่ยวชาญด้านปัญญาประดิษฐ์อาวุโส นักข่าวจาก Cosmos News กล่าวว่าเครื่องมือตรวจสอบ AI มีผลค่อนข้างดีในการตรวจสอบและระบุรูปภาพ วิดีโอ และวิดีโอที่ทำขึ้นโดยใช้เทคโนโลยี Deep Forgery และเทคโนโลยี AIGC ซึ่งสามารถลดความเสี่ยงของเทคโนโลยีได้ ใช้ในทางที่ผิด.

ดร. Li Sanping นักวิทยาศาสตร์ระดับบริหารอาวุโสของ Dell Technologies China R&D Group กล่าวกับนักข่าว Yuanverse News ว่าจากมุมมองทางเทคนิคมีความพยายามบางอย่างในการสร้างรูปภาพและวิดีโอด้วย AI ตัวอย่างเช่น Google จะทำเครื่องหมาย AI ทุกตัว ภาพที่สร้างโดยเครื่องมือของมัน

"ระบุได้ง่ายในทางเทคนิคและไม่ส่งผลกระทบต่อผู้ใช้ที่ใช้งานอยู่ อย่างไรก็ตาม เนื้อหาของข้อความยังอยู่ในระหว่างการสำรวจ" หลี่ ซานผิง กล่าว

การกำกับดูแล AI อยู่ในระหว่างดำเนินการ

Guosen Securities เชื่อว่าในขณะที่บริษัทอินเทอร์เน็ตในประเทศ เช่น Baidu, 360, Ali, Huawei และ Tencent ปล่อยหรือวางแผนที่จะปล่อยโมเดลขนาดใหญ่ แอปพลิเคชันที่เกี่ยวข้องกับ AI จะค่อยๆ เพิ่มขึ้น เมื่อคำนึงถึงความเสี่ยงของการละเมิด AI ความปลอดภัยของข้อมูล การเข้ารหัส และการกำกับดูแล AI ล้วนเป็นทิศทางการพัฒนาเทคโนโลยีที่สำคัญ

อันที่จริง ประเทศของฉันให้ความสำคัญกับการกำกับดูแล AI มาโดยตลอด

เมื่อวันที่ 10 มกราคม 2023 "ระเบียบว่าด้วยการบริหารการสังเคราะห์เชิงลึกของบริการข้อมูลทางอินเทอร์เน็ต" (ต่อไปนี้จะเรียกว่า "ระเบียบ") มีผลบังคับใช้ "กฎข้อบังคับ" ชี้แจงว่าบริการที่มีฟังก์ชันต่างๆ เช่น บทสนทนาอัจฉริยะ เสียงมนุษย์สังเคราะห์ การสร้างใบหน้า และฉากเสมือนจริงที่สร้างหรือเปลี่ยนแปลงเนื้อหาข้อมูลอย่างมีนัยสำคัญ ควรทำเครื่องหมายไว้อย่างเด่นชัดเพื่อหลีกเลี่ยงความสับสนหรือการระบุที่ผิดต่อสาธารณชน ห้ามมิให้องค์กรหรือบุคคลใดใช้วิธีการทางเทคนิคในการลบ แก้ไข หรือปกปิดเครื่องหมายที่เกี่ยวข้อง

เมื่อวันที่ 11 เมษายน Cyberspace Administration of China ได้ออก "มาตรการสำหรับการบริหารบริการปัญญาประดิษฐ์เชิงกำเนิด (ร่างสำหรับความคิดเห็น)" (เรียกว่า "มาตรการ") โดยเน้นที่ AI เชิงกำเนิดเป็นครั้งแรก และชี้แจงเพิ่มเติมเกี่ยวกับ ขอบเขตทางกฎหมายและหน่วยงานที่รับผิดชอบ "มาตรการ" เสนอให้องค์กรและบุคคลที่ใช้ผลิตภัณฑ์ปัญญาประดิษฐ์เชิงกำเนิดเพื่อให้บริการต่างๆ เช่น การแชทและข้อความ การสร้างภาพ และเสียง รวมถึงองค์กรและบุคคลที่สนับสนุนผู้อื่นในการสร้างข้อความ ภาพ และเสียงด้วยตนเองโดยจัดให้มีโปรแกรม อินเทอร์เฟซ ฯลฯ ควรถือเป็นความรับผิดชอบของผู้ผลิตเนื้อหาที่สร้างโดยผลิตภัณฑ์นี้ ผู้ให้บริการควรรับผิดชอบต่อความถูกต้องของข้อมูลก่อนการฝึกอบรมและแหล่งข้อมูลการฝึกอบรมที่ปรับให้เหมาะสมของผลิตภัณฑ์ปัญญาประดิษฐ์เชิงกำเนิด

“ในแง่ของการกำกับดูแลอุตสาหกรรม AI มีปัญหาที่โดดเด่น เช่น กฎหมาย ระเบียบ และระบบมาตรฐานที่เกี่ยวข้องที่ไม่สมบูรณ์ ขาดระบบการกำกับดูแลจากบนลงล่างที่ประสานงานโดยหลายหน่วยงาน และเทคโนโลยีการกำกับดูแลที่ล้าหลัง” Guo Tao ชี้ว่าหน่วยงานรัฐบาลที่เกี่ยวข้อง จำเป็นต้องสร้างและปรับปรุง AIGC R&D และบังคับใช้กฎหมาย ข้อบังคับ และระบบมาตรฐานที่เกี่ยวข้อง สร้างหรือปรับปรุงระบบตรวจสอบจริยธรรมและระบบการกำกับดูแล เสริมสร้างการกำกับดูแลของบริษัทเทคโนโลยี สถานการณ์การใช้งาน และผู้ใช้ สร้างแพลตฟอร์มการกำกับดูแลที่ทำงานร่วมกันหลายฝ่าย และส่งเสริมการพัฒนาที่แข็งแกร่งและยั่งยืนของอุตสาหกรรม AIGC