หลังพบว่ามันเริ่มคิดค้นภาษาใหม่มาสื่อสารกันเองโดยเฉพาะ
มีรายงานว่า Facebook ได้ตัดสินใจปิดระบบ AI ในศูนย์วิจัยของตัวเองหลังจากพบว่ามันเริ่มพัฒนาภาษาของตัวเองมาสื่อสารกันแทนภาษาอังกฤษ
เหตุการณ์ดังกล่าวเกิดขึ้นกับ AI “Bob” และ “Alice” ซึ่งก่อนหน้านี้ Facebook ได้นำมาทดสอบศักยภาพการเรียนรู้ของ AI โดยการให้มันสื่อสารกันด้วยรหัสลับ ซึ่งผลที่ได้ก็น่าประทับใจเพราะทั้งคู่สามารถเข้ารหัสได้ซับซ้อนขึ้นเรื่อยๆ แต่ล่าสุดก็เกิดเหตุการณ์ประหลาดขึ้น เมื่อ Bob และ Alice เริ่มสื่อสารกันด้วยภาษาอังกฤษแบบแปลกๆ ซึ่งไม่ถูกต้องตามหลักไวยากรณ์ กลายเป็นประโยคที่ดูเหมือนไม่มีความหมายใดๆ แต่แท้จริงแล้วประโยคเหล่านี้สามารถถอดรหัสออกมาเป็นการสื่อสารที่มีความหมายได้ซึ่งเข้าใจกันระหว่าง Bob และ Alice เท่านั้น
ตัวอย่างที่ Bob พูดคือ “i i can i i i everything else,”
Alice ตอบว่า “Balls have zero to me to me to me to me to me to me to me to me to,”
ขณะนี้ดูเหมือนว่าทีมวิจัยของ Facebook ยังไม่สามารถถอดความหมายของภาษานี้ได้สมบูรณ์ 100% แต่พวกเขาเชื่อว่าสิ่งที่ Bob พูด คือ “ฉันจะเอา 3 อัน ส่วนที่เหลือให้เธอหมดเลย”
สาเหตุที่ AI ทั้งสองพัฒนาภาษาของตัวเองขึ้นมาได้ คาดว่ามีสาเหตุมาจากระบบ “รางวัล” ที่ใช้กระตุ้นให้ AI พัฒนาตัวเอง โดยทุกครั้งที่ AI สื่อสารและตกลงกันในข้อแลกเปลี่ยนบางอย่าง ระบบก็จะมอบรางวัลให้ ส่งเสริมให้ AI คิดหาวิธีสื่อสารใหม่ๆ เพื่อให่ได้รางวัลมากที่สุด แต่เมื่อเวลาผ่านไป AI อาจมองว่า ภาษาอังกฤษที่มีคำศัพท์มากมายนั้นเยิ่นเย้อและมีประสิทธิภาพในการสื่อสารต่ำเกินไป นอกจากนี้มันยังไม่ได้รับรางวัลใดๆ จากการใช้ภาษาอังกฤษ (แม้ว่าจะถูกโปรแกรมให้ใช้แต่ภาษาอังกฤษก็ตาม) มันจึงตัดสินใจพัฒนาภาษาของตัวเองขึ้นมาแทนในที่สุด
เหตุการณ์ครั้งนี้เป็นหลักฐานสำคัญที่บ่งชี้ว่า AI มีศักยภาพสูงเกินกว่าที่มนุษย์คาดคิด หากปล่อยให้มันพัฒนาภาษาของตัวเองให้ซับซ้อนขึ้นเรื่อยๆ มันอาจตัดขาดจากมนุษย์และตัดสินใจขัดคำสั่งเราในที่สุด งานนี้ Mark Zuckerberg ที่เคยวิจารณ์มาตรการควบคุม AI ของ Elon Musk ว่า “ไร้ความรับผิดชอบ” คงต้องกลับมานั่งคิดใหม่เสียแล้ว
ขอบคุณที่มา:http://www.techmoblog.com/facebook-shutdown-ai/
#Wanwilai วันวิไล รักการดี สำนักข่าว Vihoknews