AI และเทคโนโลยีที่เกิดขึ้นใหม่ทั้งหมดได้รับการชั่งน้ําหนักสําหรับข้อดีและข้อเสีย ปัญญาประดิษฐ์มักถูกขนานนามว่าเป็นดาบสองคมสําหรับความเสี่ยงที่อาจเกิดขึ้นในขณะที่เริ่มต้นนวัตกรรม

ล่าสุด O2 บริษัทโทรคมนาคมชั้นนำของสหราชอาณาจักร ได้เปิดตัว “AI Daisy” เพื่อต่อสู้กับมือปลอมที่แอบเสพติดเป็นคุณยายสุดหยิ่งและน่าคุย โดยได้พัฒนาขึ้นมาด้วยความช่วยเหลือจาก YouTuber Jim Browning ทำให้ AI ให้การป้องกันตัวเองจากความเสี่ยงของมันเองหรือไม่?

ใครคือ AI Daisy?

AI ได้เป็นหัวข้อในปี 2024 แต่กลัวว่ามันจะเอางานออก ทำให้ซอฟแวร์ที่มีอยู่ถูกเอาชนะ และสร้างปัญหาเกี่ยวกับความเป็นส่วนตัวและจริยธรรมก็ได้ถูกโต้แย้งกัน อย่างไรก็ตาม บริษัทโทรคมนาคมชื่อ O2 ซึ่งตั้งอยู่ในสหราชอาณาจักรก็ได้รับการโต้แย้งเรื่องนี้ด้วยแคมเปญใหม่

O2 ได้เริ่มต้นใช้ "AI Daisy" ภายใต้แคมเปญ "Swerve the Scammers" เพื่อเสียเวลาของมือโกง หากมือโกงยุ่งกับการพูดคุยกับยาย AI ที่ไหนจะมีเวลาในการโกงคนจริงได้? งานของ Daisy ดูเหมือนจะเป็นการติดต่อกับมือโกงในการสนทนาที่ยาวนานและไร้สาระเพื่อให้เขายุ่งกับงาน ลูกศรที่เธอเน้นคือ "ขอโทษนะที่บอกนะ ที่รัก ฉันมีเวลามากเกินไปเลย" บริษัทยังส่งเสริมให้คนที่โดนหลอกโทรมารายงานหมายเลขของมือโกงเพื่อช่วย Daisy ในการระบุมือโกงอีกมากขึ้น

ในโฆษณาเดย์ซี่ยังกล่าวว่า "สวัสดี โกหก ฉันคือนิ้วร้ายของคุณ"

สังเวียนมั่นคงไม่มีความโกรธเช่นแม่ยาย AI ถูกโกง ดูเดซี่เสียเวลาของผู้โกงเพื่อให้พวกเขาไม่สามารถโกงคุณได้

👉รายงานการโทรหลอกลวงและข้อความหลอกลวงไปยัง 7726 pic.twitter.com/hkNMDqG87b

— O2 (@O2) 15 พฤศจิกายน 2024

จิม บราวนิ่งที่มักจะเป็นที่รู้จักกันในช่อง YouTube ของเขาที่เปิดเผยผู้โกง ยังมีส่วนร่วมในการฝึกอาวุธป้องกันประชากรที่เป็น AI เดซี ในการสนทนากับ Sky News เขาอธิบายว่า AI ได้รับการฝึกอบรมโดยใช้บันทึกเสียงจริงของการโกงโทรศัพท์ ซึ่งมากมายจากวิดีโอ YouTube ของเขา บราวนิ่งยังเปิดเผยว่าเขาใช้เวลาหลายปีในการบันทึกเสียงและเรียนรู้จากผู้โกงเพื่อเข้าใจเทคนิคของพวกเขา ตามสิ่งที่มองเห็นจากนักเลงจิตอาสาเสมือนจริง เดซีทำให้ผู้โกงเสียเวลาและทรัพยากร ที่อาจทำให้การโกงไม่ได้รับกำไรมากขึ้น

AI เป็นดาบสองคม

เทคโนโลยีที่เพิ่มขึ้นนั้นกำลังมาช่วยชาวบ้านเมื่อมีส่วนหนึ่งทำให้การโกงง่ายขึ้น ตามรายงานโดย Truecaller ผู้โกงมีผลกระทบต่อ 56.2 ล้านคนในสหรัฐฯ เพียงอย่างเดียวในปี 2023 นี้ โดยเฉลี่ย 1 ใน 4 คนแจ้งว่าสูญเสียเงิน 452 ดอลลาร์ รายงานยังพบว่า ผู้สูงอายุถูกเป้าหมายบ่อยครั้งเมื่อเทียบกับผู้ใหญ่ แต่ผู้หนุนทางออกมีความเสี่ยงสูงกว่า

นักสร้างสรรค์ Amy Hart ผู้ทำงานในโฆษณา AI Daisy กล่าวว่า “ฉันรู้ดีว่าหลักฐานอย่างไรที่ผู้โกงที่ไม่ดีสามารถเป็นได้” ในขณะเดียวกัน Shelly Palmer ประธานบริษัทจัดหางาน Palmer Group ต้องการว่าเขาคิดขึ้นมาเอง. แม้กระทั่งตัวผู้บริหารก็เตือนว่าการทำโฆษณาเสียงเป็นเทคโนโลยีที่เสี่ยงโดยเฉพาะเมื่อมีคนโกงใช้มันเพื่อปลอมตัวเอง ผู้นำเสนอให้ครอบครัวใช้ “คำหรือวลีปลอดภัย” เพื่อยืนยันตัวตนผ่านการโทรศัพท์ที่ขอบคุณทำการขอสิ่งที่ไม่ปกติ

ขนาดตลาด AI ระหว่างปี 2022 ถึง 2032 | แหล่งที่มา: AIPRM

โดยการรายงาน AI การโคลนเสียงและเทคโนโลยี deepfake จะเหมือนจริงเมื่อมันมาถึงการปลอมแทนคนจริง ทีมด้านความปลอดภัยของ Sift เปิดเผยในบล็อกว่า AI วิเคราะห์ข้อมูลเพื่อระบุเป้าหมายที่เป็นไปได้และจุดอ่อนของพวกเขา หลังจากที่พวกเขามีเป้าหมาย ขโมยทำให้การโกงโดยใช้การกระตุ้นทางอารมณ์และเรื่องราวเพื่อปลอบทอนเงิน O2's Daisy เป็นมาตรการป้องกันการใช้ AI เพื่อโกงคน ด้วยเหตุนี้ AI คุณยาย Daisy ไม่ได้ทำให้มั่นใจในการโกง แต่เธอได้รับมือ 3 ปัญหาทางเทคโนโลยี ที่สำคัญ

ประการแรกการโคลนเสียง AI เพิ่มความเสี่ยงด้านความเป็นส่วนตัวเนื่องจากนักต้มตุ๋นสามารถปลอมตัวเป็นคนจริงได้แล้ว เดซี่จัดการเพื่อพลิก . ประการที่สองนักวิจารณ์ได้ตั้งคําถามถึงผลกระทบทางจริยธรรมของ AI ในสังคม แคมเปญนี้มีจุดประสงค์เชิงบวกและอธิบายถึงความจําเป็นในการใช้ AI อย่างมีความรับผิดชอบ สุดท้ายผลกระทบของ AI ที่มีต่องานของมนุษย์ทําให้ทุกการสนทนา ในปี 2024 AI Daisy กําลังจัดการงานที่ครั้งหนึ่งเคยต้องมีการแทรกแซงจากมนุษย์ แม้ว่า AI จะลดปฏิสัมพันธ์ของมนุษย์ในการบริการลูกค้า แต่นักวิเคราะห์หลายคนยังคงเรียกมันว่าการประเมินค่าสูงเกินไป

นั่นหมายความว่า AI Virgin Media O2 กล่าวว่า "ลงทุนอย่างสูง" เพื่อต่อต้านการฉ้อโกง โดยเดซี่ได้รายงานว่าสามารถเก็บโทรศัพท์ของผู้โกงไว้ได้ถึง 40 นาทีต่อครั้ง