AI

ทีมวิจัยสหรัฐฯ พัฒนาเสื้อยืดช่วยหลบหลีกการตรวจจับจาก AI

ทีมนักวิจัยของสหรัฐฯ เผยกำลังพัฒนาเสื้อยืดที่ช่วยให้หลบหลีกการตรวจจับของ AI ได้ โดยอาศัยช่องโหว่ในการทำงานของโครงข่ายประสาทเทียม

 

หลอกล่อ AI ให้หลงกล

ที่ผ่านมา เคยมีงานวิจัยหลายชิ้นเพื่อหลอกล่อปัญญาประดิษฐ์ไม่ให้ทำงานตามคำสั่ง

เช่น กระจกหลอกระบบจดจำใจใบหน้าโดยมหาวิทยาลัย Carnegie Mellon และ North Carolina

หรือการเพิ่มรายละเอียดเล็ก น้อย ลงในป้ายสัญญาณหยุด เพื่อหลอกโครงข่ายประสาทเทียมให้เข้าใจว่าเป็นเครื่องหมายจำกัดความเร็วที่ 45 ไมล์ต่อชั่วโมงแทน

อย่างไรก็ตาม งานวิจัยทั้งสองครั้งเป็นการหลอกล่อด้วยภาพนิ่ง ซึ่งการทำแบบเดียวกันกับวิดีโอ เป็นความท้าทายในระดับที่สูงกว่า

บาตติสตา บิจโจ ผู้ช่วยศาสตราจารย์ ของมหาวิทยาลัยกายารี อธิบายว่าการจะหลอก AI ในกล้องวิดีโอทำได้ยากกว่า

เพราะการตรวจจับนั้นจะทำงานตลอดในทุกเฟรมของวิดีโอ

 

เสื้อยืดพรางตัว

ล่าสุด ก็มีผลวิจัยจากมหาวิทยาลัย Northeastern ที่ทำร่วมกับ MIT และ IBM เพื่อพัฒนาเสื้อยืดที่หลอกล่อให้ AI ไม่สามารถตรวจจับผู้สวมใส่ได้

ซือ หลิน ผู้ช่วยศาสตราจารย์ด้านวิศวกรรมไฟฟ้าและคอมพิวเตอร์ และหนึ่งในทีมวิจัย อธิบายว่าบนลวดลายที่พิมพ์บนเสื้อยืด จะมี pixel noise ที่เขียนขึ้นโดยย้อนศรหลักการตรวจจับวัตถุ

ซึ่งจะหลอกล่อให้โครงข่ายประสาทเทียมสับสน ว่าสิ่งที่อยู่ตรงหน้าเป็นวัตถุหรือไม่ จนไม่เกิดการระบุประเภทข้อมูล(data labelling) และทำให้ผู้สวมใส่รอดการตรวจจับไปด้วย

หลิน อธิบายเพิ่มเติมว่าความท้าทายของงานวิจัยนี้ คือการทำให้ผู้สวมใส่ไม่ถูกตรวจจับ ขณะเคลื่อนไหว

เพราะเมื่อเกิดการเคลื่อนไหว pixel noise บนเสื้อยืดก็จะขยับตามรอยยับ

ทางแก้คือให้ผู้ร่วมวิจัยสวมเสื้อที่มีแพทเทิร์นตาหมากรุก และทำการแทร็คมุมต่าง ของตารางแต่ละช่อง

เพื่อหารูปแบบรอยยับบนเสื้อระหว่างการเคลื่อนไหว แล้วจึงค่อยออกแบบ pixel noise ตามความน่าจะเป็น

หาช่องโหว่เพื่อแก้ไข ไม่ใช่หลีกเลี่ยง

จากนั้นจึงนำไปทดสอบกับโมเดล AI ที่นิยมใช้กัน คือ YOLOv2 และ Faster R-CNN

พบว่า วิธีนี้ช่วยเพิ่มอัตราการหลบหลีก จาก 27% เป็น 63% ในการทดสอบกับ YOLOv2 และ 11% เป็น 52% ในการทดสอบกับ Faster R-CNN

แต่ หลิน รับว่าเป็นเรื่องยากที่จะพัฒนาเสื้อเหล่านี้ เพื่อนำมาใช้จริงในชีวิตประจำวัน เพราะยังมีปัจจัยอื่น เสริม

และที่สำคัญ เป้าหมายในการทำวิจัย ไม่ใช่การหาวิธีหลบหลีกการตรวจจับ แต่เป็นการหาช่องโหว่ในการทำงานของAI เพื่อแก้ไขให้ทำงานได้ดีขึ้น

 

เรียบเรียงจาก

This ugly t-shirt makes you invisible to facial recognition tech

AHEAD ASIA นวัตกรรม ล้ำหน้า

Subscribe to Our Newsletter

Loading
Total
0
Shares
Previous Article
Healthcare

เพราะอะไร การสร้างประสบการณ์ลูกค้าในธุรกิจ Healthcare ถึงเป็นเรื่องจำเป็น

Next Article
Go Digital ASEAN

มูลนิธิเอเชีย จับมือ Google.org ชู Go Digital ASEAN ปรับธุรกิจท้องถิ่นไทย

Related Posts