กาแฟดำ | สุทธิชัย หยุ่น

 

อนาคตของสงคราม

: AI ชี้ชะตาใครแพ้ใครชนะ?

 

ตลอดเวลาที่ผมติดตามข่าวสงครามยูเครนที่สู้กันอย่างดุเดือดข้ามปี ผมจำคำพูดอมตะของ อัลเบิร์ต ไอน์สไตน์ ได้เสมอว่า

“ผมไม่รู้ว่าสงครามโลกครั้งที่ 3 จะต่อสู้ด้วยอาวุธอะไร แต่สงครามโลกครั้งที่ 4 จะสู้กันด้วยไม้และก้อนหิน”

วันนี้ ถ้าไอน์สไตน์ยังมีชีวิตอยู่ แกอาจต้องนั่งถกแถลงกับคนยุคนี้ว่ามนุษย์อาจจะไม่สามารถกำหนดว่าสงครามโลกครั้งที่ 3 จะสู้กันด้วยอะไร

เพราะ AI อาจจะกลายเป็นผู้กำหนดแทนมนุษย์แล้วก็ได้!

สงครามกับมนุษย์เป็นของคู่กัน…จริงหรือ?

หรือ AI จะเป็นตัวกำหนดว่าจะเกิดสงครามโลกครั้งที่สามหรือไม่…และเมื่อไหร่?

ทำไมมนุษย์จึงมีความสามารถในการทำสงคราม และขาดศักยภาพในการสร้างสันติภาพ?

ไฉนเมื่อมนุษย์ได้บทเรียนราคาแสนแพงจากสงครามโลกครั้งที่สองและสร้างกลไกต่างๆ เพื่อป้องกันการทำลายล้างกันและกันอีกครั้งเช่นสหประชาชาติ แต่พอเกิดความขัดแย้งถึงขั้นถล่มด้วยอาวุธแล้ว องค์กรแห่งนี้จึงกลายเป็นอัมพาต ไม่สามารถจะทำอะไรเพื่อระงับการฆ่าฟันกันได้?

ทำไมมนุษย์มีความเก่งกาจด้านเทคโนโลยีจนสร้างนวัตกรรมเพื่อทำอะไรแทนมนุษย์ได้มากมาย แต่ไม่สามารถสร้างนวัตกรรรมเพื่อสันติภาพได้?

 

สงครามจะยังหลอกหลอนมนุษย์ต่อไป…และความสามารถของมนุษย์ในทางด้านเทคโนโลยีกำลังจะเสริมส่งให้ใช้มันเพื่อการทำสงครามในรูปแบบใหม่อย่างน่ากังวลยิ่ง

เทคโนโยลีกำลังจะนิยามอนาคตของสงคราม

ไม่ใช่เพียงแค่การสร้างอาวุธร้ายแรงที่มีพลังทำลายล้างสูงขึ้นตลอดเวลา

แต่ “ปัญญาประดิษฐ์” หรือ Artificial Intelligence (AI) กำลังจะทำให้มันสามรถ “ประเมิน” สถานการณ์สู้รบแทนมนุษย์

ยิ่งน่ากลัวกว่านั้นคือ AI กำลังจะ “ตัดสินใจ” แทนมนุษย์ในการกำหนดยุทธศาสตร์และทิศทางของสงครามด้วย

สิ่งที่แต่ก่อนนี้มนุษย์ “เข้าไม่ถึง” ในการเอาชนะคะคานกันในสมรภูมิ ต่อไปนี้ AI จะเข้ามามีบทบาทของการตัดสินใจแทนมนุษย์

ถ้ามัน “ตัดสินใจ” แทนคนได้ แปลว่า AI มี “ใจ” ที่ใช้ “ตัดสิน” ด้วยหรือ?

นี่คือความท้าทายที่เราไม่เคยเผชิญมาก่อน

นั่นคือ AI กำลังจะยึด “ใจ” ของมนุษย์มาเป็นของตนโดยที่ถึงจุดหนึ่งมันอาจจะกำหนดความเป็นไปของสงครามโดยไม่ต้องรอให้มนุษย์เป็นคนตัดสินเลยก็ได้

 

อดีตบอกว่า เราว่าบทเรียนจากสงครามครั้งก่อนๆ นั้นตีเส้นอย่างก้าวกระโดดของสมรภูมิการสู้รบใหม่ที่แตกต่างไปจากการสู้รบครั้งก่อนๆ เสมอ

ถ้าแต่ก่อน เทคโนโลยีเป็นเพียง “หอก” ที่ใช้ทำร้ายร่างกายกันต่อหน้า

แต่วันนี้มันมาในรูปของ “การโจมตีทางไซเบอร์”

มหาอำนาจกำลังแข่งขันกันอย่างบ้าเลือดในการพัฒนาเทคโนโลยีไซเบอร์ที่สามารถทำลายล้างฝ่ายตรงกันข้ามอย่างเบ็ดเสร็จเด็ดขาด

จากสงครามภาคพื้นดิน, ทะเลและอากาศ สงครามกำลังจะถูกยกระดับไปสู่ “สงครามในอวกาศ”

มนุษย์เคยเป็นคนกำหนดรูปแบบของการแก้ปัญหาและการตัดสินใจ

เพราะเราเชื่อว่าการทำเช่นนั้นได้ต้องมี “ปัญญา”

แต่วันนี้เมื่อมี “ปัญญาประดิษฐ์” ที่มาจากโปรแกรมคอมพิวเตอร์และ Algorithm ที่ “ฉลาด” ขึ้นเรื่อยๆ ด้วยการพัฒนา Machine Learning และ Deep Tech เทคโนโลยีก็กำลังแสดงความสามารถที่จะเลียนแบบวิธีคิดและตัดสินใจของมนุษย์

ถึงจุดหนึ่งมันจะสลัดมนุษย์ออกจากกระบวนการตัดสินใจ!

นั่นแปลว่า AI จะค่อยๆ เบียดมนุษย์ออกไปจากการกำหนดอนาคตของตน

เพราะปริมาณมหาศาลของข้อมูลที่รวบรวมได้โดยระบบสารสนเทศยุคใหม่นั้นทำให้ Algorithm สามารถสร้างคำสั่งดิจิตัลที่สามารถควบคุมสั่งการ “อาวุธทำงานด้วยตัวเอง” หรือ Autonomous Weapons ในการทำสงครามได้

ทำให้เกิดความสามารถในการค้นหาและเล็งไปที่เป้าหมายของฝ่ายตรงกันข้ามได้อย่างแม่นยำและตามจังหวะเวลาที่กำหนด

ซึ่งลำพังใช้ปัญญาและศักยภาพของมนุษย์ไม่สามารถจะทำได้รวดเร็วและแม่นยำเท่า

นั่นแปลว่าเรากำลังจะมาถึงจุดที่หุ่นยนต์สามารถก้าวมาเทียบเคียงกับศักยภาพมนุษย์ได้

หรือในบางกรณี หุ่นยนต์ก้าวล้ำนำหน้ามนุษย์ด้วยซ้ำ

นั่นแปลว่าฉากทัศน์แห่งสงครามในวันข้างหน้าจะไม่เหมือนกับที่เราเคยประสบพบเห็นอีกต่อไป

 

คําถามที่น่าตกใจมากสำหรับผมคือเมื่อผู้เชี่ยวชาญด้าน AI ถามผมว่า

“ในอนาคตคุณคิดว่ามนุษย์ยังมีบทบาทอะไรในความขัดแย้งระหว่างประเทศหรือไม่?”

ผมตอบว่า “ถามอะไรบ้าๆ อย่างนั้น”

กูรูคนนี้บอกว่า “ไม่ได้บ้านะ มนุษย์อาจจะยังเป็นผู้สร้างความขัดแย้งที่นำไปสู่สงคราม แต่ความขัดแย้งนั้นอาจจะถูกทำให้รุนแรงและถูกปั่นให้ร้อนแรงกว่าที่ควรจะเป็นเพราะ Algorithm ของ AI เพราะการป้อนข้อมูลที่บิดเบือน, ลำเอียงและเต็มไปด้วยความเกลียดชังมากกว่าเดิม…”

ผมแย้งว่ามนุษย์ย่อมจะต้องมีปัญญาและการวินิจฉัยเพียงพอที่จะไม่ให้เจ้า “ปัญญาประดิษฐ์” ปลุกปั่นให้ผู้คนเผชิญหน้ากันเกินกว่าที่ควรจะเป็น

พูดง่ายๆ คือผมยังเชื่อว่าท้ายที่สุดแล้วมนุษย์ย่อมจะต้องเข้ามาจัดการป้องกันหายนะโลกหากเจ้า AI ใช้ข้อมูลที่มีอคติหรือ fake news จนทำให้สังคมโลกปั่นป่วนและตัดสินใจเข้าห้ำหั่นกันถึงขั้น “โลกาวินาศ”

ผู้เชี่ยวชาญท่านนั้นบอกว่า “นี่แหละคือปัญหา…เพราะมนุษย์มีข้อจำกัดตรงที่ถูกปลุกปั่นด้วยอารมณ์ที่มีต้นเหตุจากข้อมูลที่ถูกฝ่ายใดฝ่ายหนึ่งหรือ Algorithm บิดเบือนเติมแต่งจนตัดสินใจทำสงครามล้างผลาญกันได้

 

แต่ผมก็ยังอยากเชื่อว่าถึงจุดที่มนุษย์มายืนอยู่บนขอบเหวก็คงจะไม่ยอมให้ AI ผลักเราตกลงไปในหลุมดำแห่งโลกาวินาศได้

กูรูเตือนผมว่า “ปัญหาคือถึงจุดนั้นมนุษย์ที่ยืนอยู่คนละข้างและนิยามผลประโยชน์ของตนด้วยอารมณ์และอคติที่ถูก AI ปลุกปั่นจนเราเชื่อว่ามันคือเราจริงๆ…”

ถึงจุดนั้น มนุษย์คิดว่าตนเองยังสั่งการ AI ได้ทั้งๆ ที่ความเป็นจริงแล้ว AI กำลังกำหนดให้เราคิดแบบที่มันกำหนด

โดยที่ AI อาจจะไม่ได้ตั้งใจให้มนุษย์ประหัตประหารกันอย่างบ้าเลือด

แต่ AI ไม่มีมาตรฐานศีลธรรม ไม่มีความรู้สึกผิดชอบชั่วดี มันเพียงแต่พัฒนาและสร้างเรื่องราวจากข้อมูลที่รวบรวมจากทุกแหล่ง และนำมา “จัดแบบแผน” ที่เรียกว่า pattern ที่สอดคล้องกับสิ่งที่เคยเกิดมาก่อน

เพราะ AI คือการเขียน Algorithm ที่เป็นหุ่นยนต์ที่ “เรียนรู้” หรือที่เรียกว่า Machine Learning

และเราก็ตั้งภารกิจให้มัน “แก้ปัญหา” แทนเรา

โดยเราหวังว่าหากเราให้ตัวอย่างที่เหมือนๆ กันให้มันเรียนรู้ซ้ำๆ AI ก็จะจดจำและสามารถทำตามคำสั่งได้

แต่เมื่อมัน “เรียนรู้” มากขึ้นตามลำดับ ประกอบกับมีข้อมูลเพิ่มขึ้นเรื่อยๆ อย่างมหาศาล ไม่มีขีดจำกัด เจ้า AI ก็จะ “ฉลาด” ขึ้น

ถ้ามันจำได้ว่ามนุษย์ที่มีข้อมูลระดับนี้จะแก้ไขปัญหานั้นในแบบหนึ่ง หากมันได้ข้อมูลเพียงพอ AI ก็จะทำเหมือนกับที่มนุษย์ทำให้เห็นมาก่อน

แต่หากเราป้อนข้อมูลมากขึ้นเรื่อยๆ มันก็จะเรียนรู้ทางแก้ปัญหามากกว่าหนึ่งทาง ไม่ได้เลียนแบบมนุษย์คนใดคนหนึ่ง แต่เดินตามวิธีคิดและการแก้ปัญหาของหลายๆ คนในหลายๆ สถานการณ์

 

ถึงจุดหนึ่ง เป็นไปได้ไหมว่า AI จะ “ฉลาดกว่ามนุษย์”

และประกาศแยกตัวเป็นอิสระจากการสั่งการของมนุษย์

ฟังดูเหมือนเป็นเรื่องนิยายวิทยาศาสตร์ที่คิดไปตามจินตนาการ ไม่เกิดขึ้นในโลกใบนี้

แต่ยิ่งวันเราก็ยิ่งไม่อาจจะแน่ใจได้

เพราะทุกวันนี้เราไม่รู้ด้วยซ้ำว่า AI เข้ามามีบทบาทในชีวิตประจำวันเพียงใด

ไม่ว่าจะในโทรศัพท์มือถือ, การใช้ GPS ในการชี้ทิศทางในรถของเรา, หรือแม้กระทั่งการเล่น apps ที่พูดคุยกับเพื่อนหรือส่งข้อความถึงกัน

แต่เมื่อ AI ถูกใช้สั่งการให้โดรนพิฆาตศัตรูในสมรภูมิรบและเก็บข้อมูลของฝ่ายตรงกันข้าม นั่นคือการก้าวกระโดดของ AI สู่การทำสงครามที่สร้างความน่าสะพรึงกลัวอย่างที่ไม่เคยปรากฏมาก่อน

ยิ่งวันโลกยิ่งน่ากลัวมากขึ้นครับ

สะดวก ฉับไว คุ้มค่า สมัครสมาชิกนิตยสารมติชนสุดสัปดาห์ได้ที่นี่https://t.co/KYFMEpsHWj

— MatichonWeekly มติชนสุดสัปดาห์ (@matichonweekly) July 27, 2022