The Unknowns

เมื่อก่อนตอนผมเป็นเด็กทุกครั้งที่แม่ปิดไฟเข้านอน ผมจะต้องหลับตาปี๋แล้วร้องไห้หาแม่เพื่อให้เธอเข้ามากอดเสมอ ความมืดของค่ำคืนเป็นสิ่งที่ไม่ชอบเอาซะเลย เพราะในความมืดมิดที่มองไม่เห็น หลังประตูตู้เสื้อผ้านั้นมียักษ์เขี้ยวยาวซ่อนตัวอยู่ไหมนะ ภูติผีปีศาจหลังจากที่เฝ้ารอเวลานี้มาทั้งวันก็เริ่มลืมตาขยับตัวพร้อมจะออกท่องราตรีกาล ยิ่งมืดยิ่งน่ากลัว ไม่รู้เลยว่าตัวอะไรจะโผล่มาจับขาเวลาผมเดินไปห้องน้ำ สัตว์ประหลาดตัวไหนจะโผล่มาทำร้ายหวังเอาดวงวิญญาณผมไปเมื่อไหร่

คืนแล้วคืนเล่าผ่านไป โตขึ้นเรื่อยๆ จากเด็กน้อยเป็นวัยรุ่นเป็นผู้ใหญ่ ประสบการณ์สอนให้ผมรู้แล้วว่าความน่ากลัวของทุกสิ่งที่จินตนาการผมสร้างขึ้นมาเกิดความไม่รู้ เมื่อมีผู้ใหญ่สักคนพูดว่า “ระวังนะ ตุ๊กแกจะมากินตับเด็กๆตอนกลางคืน อย่าส่งเสียงดัง” เด็กคนนั้นก็ไม่มีทางเลือกอื่นนอกจากเชื่อว่าสักวันตับของเขาจะถูกตุ๊กแกควักไปกิน

เมื่อไม่รู้ เด็กคนนั้นก็กลัวและร้องไห้โวยวาย แต่เมื่อโตขึ้นเรารู้แล้วว่านอกจากตุ๊กแกจะไม่กินตับเด็กแล้ว มันกลัวเรายิ่งกว่าเรากลัวมันซะอีก เพราะมนุษย์จับมันไปดองเหล้าอยู่บ่อยๆ

มนุษย์เป็นแบบนี้แหละครับ เมื่อไม่รู้เราต้องระวังตัวเองไว้ก่อน ซึ่งเป็นระบบป้องกันตัวเองของธรรมชาติที่ติดตัวมากับเราอยู่แล้ว ยกตัวอย่างมนุษย์สมัยก่อนที่ก้มกราบเคารพบูชาปรากฏการณ์ธรรมชาติว่าเป็นฝีมือของเทพเจ้า ฟ้าร้องฟ้าผ่า แผ่นดินไหว น้ำท่วม ฝนแล้ง ฯลฯ ทุกอย่างเป็นน้ำมือของเทพเจ้าทั้งนั้น เราหวาดกลัวและเฝ้าระวังไม่ทำตัวให้เทพเจ้าเหล่านั้นโกรธเคือง จนกระทั่งวิทยาศาสตร์ถูกนำมาใช้อธิบายสิ่งต่างๆที่เกิดขึ้น ความเข้าใจถึงสาเหตุของสิ่งต่างๆช่วยให้เราเห็นว่าทุกอย่างไม่ได้น่ากลัวอะไรเท่าไหร่นัก

ถ้าวันหนึ่งในอนาคตอันใกล้ เราต้องขับรถบนถนนสายเดียวกันกับรถยนต์ที่ไม่มีคนขับล่ะ? เราควรจะกังวลไหมว่าเจ้ารถยนต์คันนี้จะตัดสินใจยังไงว่าสิ่งที่ขวางอยู่ข้างหน้าคือเด็กหรือแค่ลูกบอลที่มีรูปมิกกี้เมาส์ หรือเราควรจะมั่นใจในเทคโนโลยีที่ล้ำหน้าว่ามันถูกพัฒนามาอย่างดี ทำงานได้อย่างไม่ขาดตกบกพร่องแน่นอน

บอกตามตรง ผมกลับมาเป็นเด็กขี้กลัวคนนั้นอีกครั้งเมื่ออ่านข่าวว่าอีกไม่นานบนท้องถนนจะเต็มไปด้วย “Self Driving Car” ที่พึ่งพาการตัดสินใจของ AI ในการขับขี่ ไม่เพียงแค่เรื่องนี้ที่ทำให้ผมต้องลุกขึ้นมาหาข้อมูลเกี่ยวกับเจ้า Machine Learning แต่ความสามารถของมันที่สามารถพัฒนาตนเองได้โดยที่ไม่ต้องอาศัยมนุษย์นี้สิที่ทำให้กระสับกระส่ายอยู่ไม่สุข เพราะถ้าเกิดว่ามี AI สักตัวที่ประมวลผลหรือตั้งคำถามขึ้นมาว่า

“มนุษย์มีประโยชน์อะไร?”

…คิดภาพต่อจากนั้นไม่ออกเลยทีเดียว

Nick Bostrom เคยเขียนถึงเหตุการหนึ่งที่ชวนให้เป็นประเด็นถกเถียงเกี่ยวกับ AI เอาไว้ในหนังสือ “Superintelligence” ว่า สมมุติว่าเราสร้างเครื่อง “paper-clip maximizer” ขึ้นมา ซึ่งถูกโปรแกรมให้สร้างคลิปหนีบกระดาษให้มากที่สุดเท่าที่จะมากได้ แล้วต่อมาเจ้าเครื่องนี้ก็เริ่มฉลาดขึ้นมากๆ โดยที่เป้าหมายของมันก็ยังเป็นเหมือนเดิม มันเลยสร้างเครื่อง “paper-clip-manufacturing machine” ที่มีความสามารถในการเปลี่ยนทุกอย่างให้กลายเป็นคลิปหนีบกระดาษได้ ถึงตอนนี้คุณอาจจะบอกว่า งั้นไม่เป็นไร ก็โปรแกรมเจ้าเครื่องนี้ให้ทำคลิปหนีบกระดาษล้านอันแล้วก็หยุดแค่นั้น แต่แล้วด้วยความฉลาดของตัวมัน มันเกิดอยากทดสอบคลิปหนีบกระดาษที่ตนเองสร้างขึ้นมา โดยการสร้างเครื่องทดสอบคลิปหนีบกระดาษนี้ขึ้นมาจากวัสดุที่ยังไม่รู้ว่าคืออะไร (as-yet-uninvented rawcomputing material) ขอเรียกว่า “computronium” และหลังจากนั้นก็อยากทดสอบเจ้าเครื่องทดสอบนี้อีกเรื่อยๆ เป็นวงจรที่ไม่จบสิ้น จนทุกอย่างบนโลกนี้กลายเป็น computronium ทั้งหมดและคลิปหนีบกระดาษอีกล้านอัน

ในโลกของความเป็นจริงเจ้าเครื่อง paper-clip maximizer คงไม่มีทางถูกสร้างขึ้นมาอย่างแน่นอน แต่สิ่งที่น่าสนใจจากเรื่องสมมุติข้างบนเป็นเรื่องของความเฉลียวฉลาดของแมชชีนที่เราสร้างขึ้นมากกว่า คำถามที่เราควรถามในตอนนี้คือ มนุษย์มีความสามารถมากพอที่จะควบคุมปัญญาประดิษฐ์ (Artificial Intelligence) ที่เราสร้างมากับมือได้หรือไม่? เพราะถ้าลองเปรียบเทียบว่าพระเจ้าปั้นก้อนดินขึ้นเป็นมนุษย์เพียงแค่สองคน หลังจากนั้นลูกหลานของชายชื่ออดัมกับหญิงชื่อเอวา ก็แพร่กระจายไปตามที่ต่างๆทั่วโลก แบ่งตัวเองเป็นประเทศต่างๆ สร้างอาวุธขึ้นมาทำลายล้างกันเองเพื่อแย่งชิงทรัพยากร มีความกระหาย ความโลภ ความอยากได้ จนเรียกได้เต็มปากว่ามนุษย์ปัจจุบันไม่เหลือเค้าโครงเดิมความบริสุทธิ์ของอดัมกับเอวาอีกต่อไป พูดกันตามภาพที่เห็นในตอนนี้ มนุษย์กำลังพัฒนาขีดความสามารถตนเองจนเกือบเทียบเท่าผู้สร้างไปทุกที มนุษย์ในแต่ละส่วนของโลกก็มีความเชื่อที่แตกต่างกัน ถูกเลี้ยงมาไม่เหมือนกัน บางอย่างที่ดีในที่หนึ่งอาจไม่เป็นที่ยอมรับในอีกที่หนึ่ง แล้วแบบนี้เราจะสามารถเขียน “ค่านิยม” หรือ “ความเชื่อ” ที่เป็นที่ยอมรับของทุกคนได้หรือไม่ ปัญหาไม่ได้อยู่ที่เราสามารถพัฒนามันได้ไหม แต่เราจะควบคุมสิ่งที่สร้างขึ้นมาได้ดีแค่ไหนต่างหาก

หรือบางทีเราต้องยอมรับว่าอนาคตของมนุษยชาติไม่มีอะไรเลยนอกจากความหายนะ?

ถ้าคุณคิดว่ามันเหลวไหลไร้สาระเป็นไปไม่ได้หรอก จะไปกลัวอะไรกับแค่หุ่นยนต์ที่มนุษย์สร้างขึ้นมากันล่ะ เราต้องมีวิธีจัดการกับมันได้สิ วิศวกรคอมพิวเตอร์ผู้ชาญฉลาดเขาต้องเข้าใจอยู่แล้วว่ากำลังทำอะไรอยู่ พวกเขาไม่เอาเรื่องอันตรายแบบนี้มาเล่นหรอก

แต่เชื่อไหมครับว่าบุคคลในสื่อที่หลายคนให้ความนับถือว่าฉลาดและมีแนวคิดอันยอดเยี่ยมก็มีความกังวลใจในเรื่องนี้ไม่ต่างจากผมหรือ Bostrom

คำถามที่ว่า “Can a machine think?” (แมชชีนคิดได้ไหม?) เป็นเงาตามตัวของการพัฒนาคอมพิวเตอร์มาตั้งแต่ยุคแรกๆ Alan Turing เคยพูดเอาไว้ตั้งแต่ปี 1950 ว่าเราสามารถสอนคอมพิวเตอร์ได้เหมือนสอนเด็กๆ John McCarthy (ผู้คิดค้นภาษาคอมพิวเตอร์ LISP) เป็นคนแรกที่พูดถึง “Artificial Intelligence” ในปี 1955 ต่อมานักวิจัยก็เริ่มพัฒนาให้คอมพิวเตอร์นั้นสามารถแยกแยะรูปภาพ แปลภาษา และเข้าใจคำสั่งที่เป็นภาษามนุษย์มากขึ้นเรื่อยๆไม่ใช่แค่ภาษาคอมพิวเตอร์ (เหมือน siri ใน iphone) เพราะฉะนั้นแนวคิดที่ว่าต่อไปคอมพิวเตอร์จะมีความสามารถในการพูดและคิดเหมือนมนุษย์ แล้วจากนั้นก็ทำเรื่องเลวร้ายผิดศีลธรรมเหมือนที่เราทำ กลายเป็นประเด็นสำคัญที่ต้องถกเถียงกันอย่างมากมายทั้งในแวดวงเทคโนโลยีและข้างนอกอย่างหนังสือหรือภาพยนต์ Science Fiction (ที่เพิ่งเป็นประเด็นน่าสนใจอย่างเรื่องซีรี่ย์ WestWorld ลองตามหาดูกันได้ครับ)

บุคคลที่มีชื่อเสียงในแวดวงวิทยาศาสตร์อย่าง Stephen Hawking เคยพูดเตือนเอาไว้ว่าเมื่อถึงจุดหนึ่งในประวัติศาสตร์มนุษย์จะไม่สามารถแข่งขันกับ AI ได้อีกต่อไป (ลองคิดถึงตัวอย่างของ AlphaGo ที่เพิ่งเอาชนะแชมป์หมากล้อมมือหนึ่งของโลกไปอย่างขาดลอยเมื่อไม่นานมานี้) เขาพูดเอาไว้เลยว่านี้ “อาจจะเป็นจุดสุดท้ายของมนุษยชาติ” เลยทีเดียว หรือแม้แต่ Elon Musk CEO ของ SpaceX และ Tesla ก็เคยพูดเหมือนกันว่า “[ผม]หวังว่ามนุษย์จะไม่ใช่แค่จุดเริ่มต้นทางชีวภาพของแมชชีนอันชาญฉลาด แต่ดูเหมือนว่าทุกอย่างกำลังมุ่งไปในทิศทางนั้นจริงๆ” หลังจากนั้นเขายังบริจาคเงินกว่า 10 ล้านเหรียญให้กับ Future of Life Institure ที่หน้าที่หลักคือทำให้ความเสี่ยงที่มีต่อการดำรงอยู่ของมนุษยชาติที่เกิดจากปัญญาประดิษฐ์ (ที่มีความสามารถเท่าเทียมกับมนุษย์) ให้เกิดขึ้นน้อยที่สุดเท่าที่จะทำได้

เพราะเทคโนโลยีใหม่ๆที่มี AI เป็นจุดศูนย์กลาง อย่างเช่น Self-Driving Cars (trucks) งานอุตสาหกรรม งานเกษตกรรม งานโฆษณา การลงทุนตลาดหุ้น การแพทย์ เกมส์ โซเชียล ฯลฯ อย่างที่พูดเอาไว้ในตอนแรก (ตอนต่อๆไปจะมาคุยกันถึงเรื่องผลกระทบของ AI ที่มีต่องานที่เราทำกันครับ อดใจรอนิดหนึ่ง) นั้นกำลังกลายเป็นส่วนหนึ่งของชีวิตประจำวันของเราทั้งสิ้น

ถึงเวลานี้เราอาจจะไม่มีเทคโนโลยี่ที่เข้าใกล้สิ่งที่เรียกว่า “Superintelligent Machines” ที่ฉลาดเหมือนมนุษย์แต่ก็ไม่ได้หมายความว่าสิ่งนี้จะเกิดขึ้นไม่ได้ Machine Learning เป็นทางหนึ่งที่เราอาจจะไปถึงจุดนั้น แต่ถ้าเรามุ่งแต่จะพัฒนาไปข้างหน้าโดยไม่ตั้งคำถามว่าสิ่งที่เรากำลังสร้างขึ้นมานั้นคืออะไร ไม่ตีกรอบให้ชัดเจนว่าสิ่งเหล่านี้ควรอยู่ตรงไหนหรือมีขีดจำกัดแค่ไหนให้ชัดเจนตั้งแต่แรก มันดูเป็นความคิดที่บ้าบอและไร้ความรับผิดชอบจนเกินไป เปรียบเทียบให้เห็นภาพชัดๆเช่นเรามีแหล่งน้ำขนาดใหญ่และต้องการใช้ให้มันเป็นประโยชน์ต่อชีวิตประจำวันมากที่สุด เราก็ต้องสร้างเขื่อนกักเก็บ วางท่อให้แน่นหนา และมีการเปิด-ปิดใช้เมื่อจำเป็น ไม่ใช่ว่าระเบิดทางออกแหล่งน้ำให้น้ำไหลทะลักไปทางไหนก็ได้โดยไม่ดูแลอย่างใกล้ชิด

เพราะไม่ว่าเป็นตุ๊กแกที่ร้องในกลางคืนหรือปีศาจในจินตนาการ สิ่งเดียวที่ทำให้ผมมั่นใจได้ถึงความปลอดภัยคือการเข้าใจมันมากขึ้นว่าอะไรกันที่อยู่ในความมืด เทคโนโลยี AI ในตอนนี้ยังคงมีส่วนที่อยู่ในความมืดมากจนเกินไปที่จะทำให้คนธรรมดาอย่างผมจะรู้สึกอุ่นใจได้ว่าสามารถขับรถบนถนนเส้นเดียวกันกับหุ่นยนต์โดยไม่มีความปั่นป่วน

ในขณะเดียวกันที่ผมก็กลับมาคิดว่า ทุกวันนี้ท้องถนนก็ไม่ได้เป็นที่ปลอดภัยอะไรนัก อุบัติเหตุเกิดขึ้นได้เสมอโดยที่เราไม่ทันคาดคิด มนุษย์มีทั้งอารมณ์ ความโกรธ ความง่วง การตัดสินใจที่ผิดพลาด แล้วถ้าเป็นแบบนี้ ไม่ดีกว่าเหรอถ้าเรายกหน้าที่ขับรถให้กับสมองกลที่ตัดสินใจตามกฎหมายที่สร้างมาเพื่อความปลอดภัยอย่างไม่มีข้อแม้ สถานการณ์ไหนกันแน่ที่ปลอดภัยกว่ากัน?

ติดตามบทต่อไปครับ เราจะมาพูดถึงมุมมองด้านบวกของ AI กันบ้างแล้ว 🙂

 

 

 


อ่านเพิ่มเติม : https://www.technologyreview.com/s/604087/the-dark-secret-at-the-heart-of-ai/

Leave a Reply

Your email address will not be published. Required fields are marked *