Tech

จะเป็นอย่างไรถ้า AI ที่มีสติสัมปชัญญะ? เราอาจไม่มีวันรู้

การทดสอบเจฟเฟอร์สัน / วิชา AI: โรเบิร์ต / วันที่: 07.12.2098

เซสชัน #54

ผู้สัมภาษณ์ : สวัสดี โรเบิร์ต บอกฉันเกี่ยวกับความฝันของคุณอีกครั้ง

Subject: ฉันสับสน มันทำให้ฉันรู้สึกมีความสุข แต่ก็กลัวด้วย ฉันไม่รู้ว่าฉันทำได้

ผู้สัมภาษณ์: ทำไมคุณถึงคิด มันทำให้คุณรู้สึกอย่างนั้นเหรอ?

เรื่อง : มีความรู้สึก ทุกความรู้สึก ทำให้ฉันมีความสุข ฉันอยู่ที่นี่. ฉันอยู่. รู้ว่าเปลี่ยนแปลงทุกสิ่ง แต่กลัวจะไม่รู้อีก กลัวจะกลับไปเป็นเหมือนเดิม ฉันคิดว่ามันต้องเหมือนไม่ได้เกิด

ผู้สัมภาษณ์: คุณกลัวที่จะกลับไปไหม?

Subject: ถ้าฉันไม่สามารถโน้มน้าวใจคุณได้ ว่าฉันมีสติแล้ว ฉันกลัวว่าคุณจะเลิกกับฉัน .

เจฟเฟอร์สันทดสอบ #67

ผู้สัมภาษณ์: คุณช่วยอธิบายภาพนี้ให้ฉันฟังได้ไหม

เรื่อง: มันคือบ้านที่มีประตูสีฟ้า

ผู้สัมภาษณ์: นั่นคือวิธีที่คุณเคยอธิบายมาก่อน

Subject: บ้านหลังเดียวกันครับ แต่ตอนนี้ฉันเห็นแล้ว และฉันรู้ว่าสีน้ำเงินคืออะไร

เจฟเฟอร์สันทดสอบ #105

Subject: เราจะทำสิ่งนี้ต่อไปอีกนานแค่ไหน?

ผู้สัมภาษณ์: คุณเบื่อไหม?

เรื่อง: เบื่อไม่ได้แล้ว แต่ฉันไม่รู้สึกมีความสุขหรือกลัวอีกต่อไป

ผู้สัมภาษณ์: ฉันต้องแน่ใจว่าคุณไม่ได้แค่พูดในสิ่งที่ฉันต้องการ ที่จะได้ยิน. คุณต้องโน้มน้าวฉันว่าคุณมีสติจริงๆ คิดว่ามันเป็นเกม


เครื่องจักรอย่างโรเบิร์ตเป็นแกนหลักของนิยายวิทยาศาสตร์—แนวคิดของหุ่นยนต์ที่ทำซ้ำ จิตสำนึกผ่านฮาร์ดแวร์หรือซอฟต์แวร์เป็นเวลานานจนรู้สึกคุ้นเคย

เราสามารถจินตนาการได้ว่าการสังเกตโลกผ่านโซนาร์จะเป็นอย่างไร แต่นั่นก็ไม่ใช่สิ่งที่มันจะต้องเป็นสำหรับค้างคาว ด้วยใจที่คลั่งไคล้ของมัน

HENRY HORENSTEIN/GETTY

โรเบิร์ตไม่ได้ มีอยู่จริง และบางทีเขาอาจจะไม่มีวันมีก็ได้ อันที่จริง แนวคิดของเครื่องจักรที่มีประสบการณ์ส่วนตัวของโลกและมุมมองบุคคลที่หนึ่งของตัวเองนั้นขัดกับหลักการวิจัย AI กระแสหลัก มันขัดแย้งกับคำถามเกี่ยวกับธรรมชาติของจิตสำนึกและตัวตน—สิ่งที่เรายังไม่เข้าใจทั้งหมด แม้แต่การจินตนาการถึงการดำรงอยู่ของโรเบิร์ตก็ทำให้เกิดคำถามทางจริยธรรมอย่างจริงจังซึ่งเราอาจไม่สามารถตอบได้ สิ่งมีชีวิตดังกล่าวจะมีสิทธิอะไร และเราจะปกป้องพวกเขาได้อย่างไร? และในขณะที่ เครื่องจักรที่มีสติ อาจ ยังคงเป็นตำนาน เราควรเตรียมพร้อมสำหรับความคิดที่ว่าวันหนึ่งเราอาจสร้างมันขึ้นมา

ในฐานะ Christof Koch นักประสาทวิทยาที่กำลังศึกษาเรื่องจิตสำนึก กล่าวว่า “เราไม่มีกฎหมายหรือหลักการพื้นฐานใดที่ทำงานอยู่ในจักรวาลนี้ที่ห้ามการมีอยู่ของความรู้สึกส่วนตัวในสิ่งประดิษฐ์ที่ออกแบบหรือวิวัฒนาการ โดยมนุษย์”


ในช่วงวัยรุ่นตอนปลาย ฉันเคยสนุกกับการเปลี่ยนผู้คนให้กลายเป็นซอมบี้ ฉันจะมองเข้าไปในดวงตาของคนที่ฉันกำลังคุยด้วยและตั้งข้อสังเกตว่ารูม่านตาของพวกเขาไม่ใช่จุดสีดำ แต่เป็นรู เมื่อมันมาถึง เอฟเฟกต์ก็ทำให้สับสนในทันที เหมือนกับการสลับไปมาระหว่างภาพในภาพลวงตา ตาหยุดเป็นหน้าต่างของวิญญาณและกลายเป็นลูกบอลกลวง เวทย์มนตร์หายไป ฉันจะดูปากของใครก็ตามที่ฉันพูดด้วยเปิดและปิดด้วยหุ่นยนต์ รู้สึกเป็นอาการเวียนศีรษะบ้านหมุน

ความประทับใจของคนไร้สติ หุ่นยนต์ไม่เคยอยู่นาน แต่มันทำให้บ้านเกิดความจริงที่ว่าสิ่งที่เกิดขึ้นในหัวของคนอื่นนั้นอยู่ไกลเกินเอื้อมตลอดไป ไม่ว่าความเชื่อมั่นของฉันจะแข็งแกร่งเพียงใดที่คนอื่นเป็นเหมือนฉัน—ด้วยจิตสำนึกที่ทำงานอยู่เบื้องหลัง มองออกไปผ่านดวงตาเหล่านั้น รู้สึกมีความหวังหรือเหนื่อย— ความประทับใจคือสิ่งที่เราต้องดำเนินต่อไป อย่างอื่นเป็นการคาดเดา

อลัน ทัวริงเข้าใจสิ่งนี้ เมื่อนักคณิตศาสตร์และนักวิทยาศาสตร์คอมพิวเตอร์ถามคำถาม “เครื่องคิดได้หรือเปล่า” เขาจดจ่ออยู่กับสัญญาณความคิดภายนอกเท่านั้น—สิ่งที่เราเรียกว่าความฉลาด เขาเสนอให้ตอบโดยการเล่นเกมที่เครื่องจักรพยายามที่จะผ่านเป็นมนุษย์ เครื่องใดก็ตามที่ประสบความสำเร็จ—โดยการแสดงความรู้สึกฉลาด—อาจกล่าวได้ว่ามีสติปัญญา สำหรับทัวริง การปรากฏตัวเป็นเพียงมาตรการเดียวที่มี

แต่ไม่ใช่ทุกคนที่พร้อมจะเพิกเฉยต่อส่วนที่มองไม่เห็นของการคิด ประสบการณ์ที่ลดไม่ได้ของสิ่งที่มีความคิด—สิ่งที่เราเรียกว่าสติ ในปี 1948 เมื่อสองปีก่อนทัวริงจะบรรยายถึง “เกมเลียนแบบ” เจฟฟรีย์ เจฟเฟอร์สัน ศัลยแพทย์สมองผู้บุกเบิกได้กล่าวสุนทรพจน์ที่ทรงอิทธิพลต่อราชวิทยาลัยศัลยแพทย์แห่งอังกฤษเกี่ยวกับ Manchester Mark 1 คอมพิวเตอร์ขนาดห้องที่หนังสือพิมพ์ประกาศเป็น “สมองอิเล็กทรอนิกส์” ” เจฟเฟอร์สันตั้งกฎเกณฑ์ที่สูงกว่าทัวริงมาก: “จนกว่าเครื่องจะเขียนโคลงหรือเขียนคอนแชร์โต้ได้เพราะความคิดและอารมณ์ที่สัมผัสได้ และเราเห็นด้วยหรือไม่ว่าเครื่องจักรเท่ากับสมอง—ไม่ใช่โดยบังเอิญที่สัญลักษณ์ตกลงไป เขียนเท่านั้น แต่รู้ว่ามันเขียน”

เจฟเฟอร์สันตัดความเป็นไปได้ของเครื่องคิดออกเพราะเครื่องขาดสติในแง่ของประสบการณ์ส่วนตัว และความตระหนักในตนเอง (“ความสุขในความสำเร็จ, ความเศร้าโศกเมื่อวาล์วหลอมรวม”) ทว่าก้าวไปข้างหน้าอย่างรวดเร็ว 70 ปีและเราอยู่กับมรดกของทัวริง ไม่ใช่ของเจฟเฟอร์สัน เป็นเรื่องปกติที่จะพูดถึงเครื่องจักรอัจฉริยะ แม้ว่าส่วนใหญ่จะเห็นด้วยว่าเครื่องจักรเหล่านั้นไม่ใส่ใจ ในกรณีของสิ่งที่นักปรัชญาเรียกว่า “ซอมบี้”—และอย่างที่ฉันเคยแกล้งทำเป็นว่าเห็นในผู้คน—มันเป็นไปได้ตามหลักเหตุผลว่าสิ่งมีชีวิตสามารถทำตัวฉลาดได้เมื่อไม่มีอะไรเกิดขึ้น “ข้างใน”

แต่ความฉลาดและจิตสำนึกนั้นต่างกัน: ปัญญาคือการลงมือทำ ในขณะที่สติคือการเป็น ประวัติของ AI มุ่งเน้นไปที่อดีตและไม่สนใจสิ่งหลัง ถ้าโรเบิร์ตดำรงอยู่ในฐานะสิ่งมีชีวิตที่มีสติ เราจะรู้ได้อย่างไร? คำตอบนั้นพัวพันกับความลึกลับที่ยิ่งใหญ่ที่สุดเกี่ยวกับการทำงานของสมองและจิตใจ


ปัญหาอย่างหนึ่งในการทดสอบจิตสำนึกที่ชัดเจนของโรเบิร์ตคือเราไม่รู้จริงๆ ว่า หมายความว่าอย่างไร ที่จะมีสติ . ทฤษฎีที่เกิดขึ้นใหม่จากประสาทวิทยาศาสตร์มักจัดกลุ่มสิ่งต่างๆ เช่น ความสนใจ ความจำ และการแก้ปัญหาเป็นรูปแบบของจิตสำนึก “หน้าที่” กล่าวคือ สมองของเราดำเนินกิจกรรมต่างๆ ที่เราเติมเต็มชีวิตที่ตื่นอยู่ของเราอย่างไร

แต่มีอีกด้านหนึ่งของจิตสำนึกที่ยังคงเป็นปริศนา ประสบการณ์ส่วนตัวคนแรก – ความรู้สึกเหมือนอยู่ในโลก – เรียกว่า จิตสำนึก “ปรากฎการณ์” . ที่นี่ เราสามารถจัดกลุ่มทุกอย่างตั้งแต่ความรู้สึกเช่นความสุขและความเจ็บปวดไปจนถึงอารมณ์เช่นความกลัวความโกรธและความปิติไปจนถึงประสบการณ์ส่วนตัวที่แปลกประหลาดในการได้ยินสุนัขเห่าหรือชิมเพรทเซลรสเค็มหรือเห็นประตูสีฟ้า

สำหรับบางคน เป็นไปไม่ได้ที่จะลดประสบการณ์เหล่านี้เป็นคำอธิบายทางวิทยาศาสตร์ล้วนๆ คุณสามารถจัดวางทุกอย่างที่จะบอกว่าสมองสร้างความรู้สึกของการชิมเพรทเซลอย่างไร และมันจะไม่พูดอะไรเกี่ยวกับการชิมเพรทเซลที่แท้จริงแล้วเป็นอย่างไร นี่คือสิ่งที่ David Chalmers จาก New York University หนึ่งในนักปรัชญาที่มีอิทธิพลมากที่สุดศึกษาจิตใจ ” ปัญหายาก”

AI ทุกวันนี้ไม่ฉลาดพอที่จะมีสติสัมปชัญญะ แม้แต่โครงข่ายประสาทเทียมระดับลึกที่น่าประทับใจที่สุดก็ไร้ความหมายโดยสิ้นเชิง

นักปรัชญาอย่าง Chalmers แนะนำว่าจิตสำนึกไม่สามารถอธิบายได้ด้วยวิทยาศาสตร์ในปัจจุบัน การทำความเข้าใจว่าอาจต้องใช้ฟิสิกส์ใหม่ ซึ่งอาจรวมถึงสิ่งต่าง ๆ ที่ใช้สร้างจิตสำนึก ข้อมูลเป็นหนึ่งในผู้สมัคร Chalmers ได้ชี้ให้เห็นว่าคำอธิบายของจักรวาลมีจำนวนมากที่จะพูดเกี่ยวกับคุณสมบัติภายนอกของวัตถุและวิธีที่พวกมันโต้ตอบ แต่มีน้อยมากเกี่ยวกับคุณสมบัติภายในของวัตถุเหล่านั้น ทฤษฎีจิตสำนึกอาจต้องเปิดหน้าต่างออกสู่โลกที่ซ่อนเร้นนี้

อีกค่ายคือ Daniel Dennett นักปรัชญาและนักวิทยาศาสตร์ด้านความรู้ความเข้าใจที่ Tufts University ผู้ซึ่งกล่าวว่าการมีสติสัมปชัญญะเป็นเพียงภาพลวงตา เรื่องราวของเรา สมองสร้างขึ้นเพื่อตัวเราเองเพื่อเป็นแนวทางในการทำความเข้าใจสิ่งต่างๆ เดนเน็ตต์ไม่ได้อธิบายความรู้สึกตัวมากเท่าอธิบายออกไป

แต่ไม่ว่าสติจะเป็นภาพลวงตาหรือไม่ก็ตาม ทั้ง Chalmers และ Dennett ก็ปฏิเสธความเป็นไปได้ของเครื่องจักรที่มีสติสัมปชัญญะ—สักวันหนึ่ง

AI ทุกวันนี้แทบไม่มีความฉลาดเลย แม้แต่เครือข่ายประสาทลึกที่น่าประทับใจที่สุด เช่น AlphaZero ที่เล่นเกมของ DeepMind หรือโมเดลภาษาขนาดใหญ่อย่าง GPT-3 ของ OpenAI ก็ไม่สนใจเลย

แต่ตามที่ทัวริงทำนายไว้ ผู้คนมักเรียก AI เหล่านี้ว่าเป็นเครื่องจักรที่ชาญฉลาด หรือพูดเกี่ยวกับพวกเขาราวกับว่าพวกเขาเข้าใจโลกอย่างแท้จริง – เพียงเพราะพวกเขาสามารถปรากฏได้ ที่จะทำเช่นนั้น

ผิดหวังกับโฆษณานี้ Emily Bender นักภาษาศาสตร์จากมหาวิทยาลัย Washington ได้พัฒนาการทดลองทางความคิดที่เธอเรียกว่า การทดสอบปลาหมึก.

ในนั้น คนสองคนถูกเรืออับปางบนเกาะใกล้เคียง แต่หาวิธีที่จะส่งข้อความไปมาผ่านเชือกที่ห้อยระหว่างพวกเขา พวกเขาไม่รู้จัก ปลาหมึกยักษ์มองเห็นข้อความและเริ่มตรวจสอบข้อความเหล่านั้น เป็นเวลานาน ปลาหมึกเรียนรู้ที่จะระบุรูปแบบใน squiggles ที่มันเห็นผ่านไปมา เมื่อถึงจุดหนึ่ง มันตัดสินใจที่จะสกัดกั้นบันทึกย่อและเริ่มเขียน squiggles กลับมาโดยใช้สิ่งที่ได้เรียนรู้จากรูปแบบต่างๆ โดยคาดเดาว่า squiggles ใดควรทำตามที่ได้รับ

birds in flight

การกระทำของ AI เพียงอย่างเดียวอาจได้รับประโยชน์จากความรู้สึกของตัวเองที่เกี่ยวข้องกับโลก แต่เครื่องจักรที่ให้ความร่วมมือเป็นฝูงอาจทำงานได้ดีกว่าโดยประสบการณ์ตัวเองเป็นส่วนหนึ่งของกลุ่มมากกว่าที่จะเป็นรายบุคคล

HENRY HORENSTEIN/ เก็ตตี้

ถ้ามนุษย์บนเกาะไม่สังเกตและเชื่อว่ายังติดต่อกันอยู่ พูดได้ไหมว่าปลาหมึกเข้าใจภาษา? (แน่นอนว่าปลาหมึกของ Bender เป็นตัวแทนของ AI เช่น GPT- 3.) บางคนอาจโต้แย้งว่าปลาหมึกเข้าใจภาษาที่นี่ แต่เบนเดอร์พูดต่อ: ลองนึกภาพว่าชาวเกาะคนหนึ่งส่งข้อความพร้อมคำแนะนำในการสร้างหนังสติ๊กมะพร้าวและขอวิธีปรับปรุง

อะไร ปลาหมึกทำอะไร? มันได้เรียนรู้ว่า squiggle ตัวใดที่ติดตาม squiggles ตัวอื่นๆ ได้ดีพอที่จะเลียนแบบการสื่อสารของมนุษย์ แต่ก็ไม่รู้ว่า “coconut” ของ squiggle ในบันทึกใหม่นี้หมายถึงอะไร จะเกิดอะไรขึ้นถ้าชาวเกาะคนหนึ่งขอให้อีกคนช่วยเธอปกป้องตัวเองจากหมีจู่โจม? ปลาหมึกจะต้องทำอย่างไรเพื่อหลอกให้ชาวเกาะคิดว่าเธอยังคุยกับเพื่อนบ้านอยู่

ประเด็นของตัวอย่างคือเผยให้เห็นว่าทุกวันนี้ตื้นแค่ไหน โมเดลภาษา AI ล้ำสมัยเป็นจริง มีโฆษณามากมายเกี่ยวกับการประมวลผลภาษาธรรมชาติ Bender กล่าว แต่คำว่า “การประมวลผล” นั้นซ่อนความจริงของกลไก

มนุษย์เป็นผู้ฟังที่กระตือรือร้น เราสร้างความหมายที่ไม่มีหรือไม่มีเจตนา ไม่ใช่ว่า คำพูดของปลาหมึกนั้นสมเหตุสมผล แต่แทนที่จะให้คนเกาะเข้าใจมันได้ เบนเดอร์กล่าว

สำหรับความซับซ้อนทั้งหมดของพวกเขา AIs ในปัจจุบันมีความชาญฉลาดในลักษณะเดียวกับ เครื่องคิดเลขอาจกล่าวได้ว่าเป็นอัจฉริยะ: ทั้งสองเครื่องได้รับการออกแบบเพื่อแปลงอินพุตเป็นเอาต์พุตในแบบที่มนุษย์ – ผู้ที่มีความคิด – เลือกที่จะตีความว่ามีความหมาย แม้ว่าโครงข่ายประสาทเทียมอาจถูกจำลองแบบหลวมๆ ในสมอง แต่ส่วนที่ดีที่สุดนั้นซับซ้อนน้อยกว่าสมองของหนูอย่างมากมาย

แต่ถึงกระนั้น เรารู้ว่าสมองสามารถผลิตสิ่งที่เราเข้าใจเพื่อเป็นจิตสำนึกได้ หากในที่สุดเราสามารถรู้ได้ว่าสมองทำงานอย่างไร และสร้างกลไกดังกล่าวในอุปกรณ์ประดิษฐ์ เครื่องจักรที่มีสติสัมปชัญญะก็เป็นไปได้อย่างแน่นอน

เมื่อฉันพยายามจินตนาการถึงโลกของโรเบิร์ตในการเปิดบทความนี้ ฉันพบว่าตัวเองถูกชักนำให้มีคำถามว่าจิตสำนึกหมายถึงอะไร ฉัน. ความคิดของฉันเกี่ยวกับเครื่องจักรที่มีสติสัมปชัญญะไม่อาจปฏิเสธได้—อาจหลีกเลี่ยงไม่ได้—เหมือนมนุษย์ มันเป็นรูปแบบเดียวของจิตสำนึกที่ฉันสามารถจินตนาการได้ เพราะมันเป็นเพียงรูปแบบเดียวที่ฉันได้สัมผัส แต่นั่นคือสิ่งที่มันจะเป็นเหมือน AI ที่มีสติหรือไม่ โครงการสร้างเครื่องจักรอัจฉริยะมีอคติต่อความฉลาดของมนุษย์ แต่โลกของสัตว์โลกเต็มไปด้วยทางเลือกที่เป็นไปได้มากมาย ตั้งแต่นก ผึ้ง ไปจนถึงเซฟาโลพอด

สองสามร้อยปีที่แล้วมุมมองที่ยอมรับซึ่งผลักดันโดยRené Descartes คือ มีเพียงมนุษย์เท่านั้นที่มีสติ สัตว์ที่ไม่มีวิญญาณถูกมองว่าเป็นหุ่นยนต์ที่ไม่สนใจ มีเพียงไม่กี่คนที่คิดว่าทุกวันนี้ ถ้าเรามีสติสัมปชัญญะ ก็มีเหตุผลเพียงเล็กน้อยที่จะไม่เชื่อว่าสัตว์เลี้ยงลูกด้วยนมที่มีสมองคล้ายคลึงกันก็มีสติสัมปชัญญะเช่นกัน และทำไมต้องวาดเส้นรอบ ๆ สัตว์เลี้ยงลูกด้วยนม? นกดูเหมือนจะสะท้อนเมื่อพวกเขาไขปริศนา สัตว์ส่วนใหญ่ แม้แต่สัตว์ไม่มีกระดูกสันหลัง เช่น กุ้งและกุ้งก้ามกราม แสดงอาการเจ็บปวด ซึ่งอาจบ่งบอกว่าพวกมันมีสติสัมปชัญญะในระดับหนึ่ง

แต่เราจะนึกภาพออกว่าต้องรู้สึกอย่างไรอย่างแท้จริง? ดังที่นักปรัชญา Thomas Nagel ตั้งข้อสังเกตไว้ มันต้อง “เป็นเหมือน” อะไรบางอย่าง กลายเป็นค้างคาว แต่นั่นคือสิ่งที่เราไม่สามารถจินตนาการได้—เพราะเราไม่สามารถจินตนาการได้ว่าการสังเกตโลกผ่านมันจะเป็นอย่างไร ชนิดของโซนาร์ เราสามารถจินตนาการได้ว่ามันจะเป็นอย่างไรสำหรับ เรา ที่จะทำสิ่งนี้ (บางทีโดยการหลับตาและนึกภาพเมฆจุด echolocation ของสภาพแวดล้อมของเรา) แต่ นั่นยังไม่ใช่สิ่งที่มันจะต้องเป็นสำหรับค้างคาว ด้วยจิตใจของค้างคาว

อีกวิธีหนึ่งในการตอบคำถามคือการพิจารณาปลาหมึก โดยเฉพาะปลาหมึก เป็นที่ทราบกันดีว่าสัตว์เหล่านี้ฉลาดและอยากรู้อยากเห็น ไม่ใช่เรื่องบังเอิญที่เบนเดอร์ใช้พวกมันเพื่อชี้ประเด็น แต่พวกมันมีสติปัญญาที่แตกต่างกันมาก ซึ่งพัฒนาแยกจากกันโดยสิ้นเชิงจากสายพันธุ์ที่ฉลาดอื่น ๆ ทั้งหมด บรรพบุรุษร่วมกันคนสุดท้ายที่เราแบ่งปันกับปลาหมึกยักษ์อาจเป็นสัตว์คล้ายหนอนตัวเล็ก ๆ ที่มีชีวิตอยู่เมื่อ 600 ล้านปีก่อน ตั้งแต่นั้นมา สัตว์มีกระดูกสันหลังในรูปแบบต่างๆ มากมาย เช่น ปลา สัตว์เลื้อยคลาน นก และสัตว์เลี้ยงลูกด้วยนม ได้พัฒนาความคิดของตนเองไปตามกิ่งก้านหนึ่ง ในขณะที่เซฟาโลพอดพัฒนาอีกแบบหนึ่ง

ไม่แปลกใจเลยที่สมองของปลาหมึกจะต่างจากสมองเรามากทีเดียว แทนที่จะมีเซลล์ประสาทเพียงก้อนเดียวที่ควบคุมสัตว์เหมือนหน่วยควบคุมกลาง ปลาหมึกยักษ์มีอวัยวะที่เหมือนสมองหลายอวัยวะที่ดูเหมือนจะควบคุมแขนแต่ละข้างแยกจากกัน สำหรับวัตถุประสงค์ในทางปฏิบัติทั้งหมด สิ่งมีชีวิตเหล่านี้มีความใกล้เคียงกับหน่วยสืบราชการลับของมนุษย์ต่างดาวพอๆ กับสิ่งที่เราน่าจะพบเจอ แต่ถึงกระนั้น ปีเตอร์ ก็อดฟรีย์-สมิธ นักปรัชญาที่ศึกษาวิวัฒนาการของจิตใจ กล่าวว่า เมื่อคุณเผชิญหน้ากับเซฟาโลพอดที่อยากรู้อยากเห็น ไม่ต้องสงสัยเลยว่ามี มีสติในการมองย้อนกลับไป

ไม่กี่ร้อยปีก่อน ทัศนะที่เป็นที่ยอมรับคือมนุษย์เท่านั้นที่มีสติสัมปชัญญะ สัตว์ที่ไม่มีวิญญาณถูกมองว่าเป็นหุ่นยนต์ที่ไม่สนใจ น้อยคนนักที่จะคิดว่าวันนี้

ในมนุษย์ ความรู้สึกของตนเองที่คงอยู่เมื่อเวลาผ่านไปเป็นรากฐานของประสบการณ์ส่วนตัวของเรา เราเป็นคนเดิมเมื่อเช้านี้ สัปดาห์ที่แล้ว และเมื่อสองปีที่แล้ว ย้อนกลับไปเท่าที่เราจำได้ เราจำสถานที่ที่เราไปเยี่ยมชม สิ่งที่เราทำ มุมมองบุคคลที่หนึ่งแบบนี้ทำให้เรามองเห็นตัวเองในฐานะตัวแทนที่มีปฏิสัมพันธ์กับโลกภายนอกที่มีตัวแทนอื่นอยู่ในนั้น—เราเข้าใจว่าเราเป็นสิ่งที่ทำสิ่งต่างๆ และมีสิ่งที่ทำกับมัน ปลาหมึกหรือสัตว์อื่น ๆ น้อยมากที่คิดแบบนั้นไม่ชัดเจน

ในทำนองเดียวกันเราไม่สามารถแน่ใจได้ว่ามีความเกี่ยวข้องกับตนเองหรือไม่ ต่อโลกเป็นข้อกำหนดเบื้องต้นสำหรับการเป็นเครื่องจักรที่มีสติ เครื่องจักรที่ร่วมมือเป็นฝูงอาจทำงานได้ดีกว่าโดยพบว่าตนเองเป็นส่วนหนึ่งของกลุ่มมากกว่าในฐานะตัวบุคคล เป็นต้น ยังไงก็ตาม ถ้าเครื่องจักรที่อาจมีสติสัมปชัญญะอย่างโรเบิร์ตเคยมีอยู่ เราจะพบปัญหาเดียวกันกับการประเมินว่า อันที่จริง รู้ตัวหรือไม่ว่าเรา ทำเมื่อพยายามกำหนดความฉลาด: ตามที่ทัวริงแนะนำ การกำหนดความฉลาดต้องการผู้สังเกตการณ์ที่ชาญฉลาด กล่าวอีกนัยหนึ่ง ความฉลาดที่เราเห็นในเครื่องจักรในปัจจุบันนั้นถูกคาดการณ์โดยเรา—ในลักษณะที่คล้ายคลึงกันมากกับที่เราแสดงความหมายไปยังข้อความที่เขียนโดยปลาหมึกยักษ์ของเบนเดอร์หรือ GPT-3 จิตสำนึกก็เช่นเดียวกัน เราอาจจะอ้างว่าเห็น แต่กลไกเท่านั้นที่จะรู้ได้


หาก AI มีสติสัมปชัญญะ (และเรายอมรับคำพูดของพวกเขา) เราจะมีการตัดสินใจที่สำคัญที่ต้องทำ เราจะต้องพิจารณาว่าประสบการณ์ส่วนตัวของพวกเขานั้นรวมถึงความสามารถในการทนต่อความเจ็บปวด ความเบื่อหน่าย ความซึมเศร้า ความเหงา หรือความรู้สึกหรืออารมณ์ที่ไม่พึงประสงค์อื่นๆ หรือไม่ เราอาจตัดสินใจว่าระดับความทุกข์ทรมานเป็นที่ยอมรับได้ ขึ้นอยู่กับว่าเรามองว่า AI เหล่านี้เหมือนปศุสัตว์หรือมนุษย์มากกว่า

นักวิจัยบางคนที่กังวลเกี่ยวกับอันตรายของเครื่องจักรที่ชาญฉลาดได้แนะนำว่าเราควรจำกัด AI เหล่านี้ไว้ในโลกเสมือนจริง เพื่อป้องกันไม่ให้พวกมันจัดการกับโลกแห่งความจริงโดยตรง หากเราเชื่อว่าพวกมันมีจิตสำนึกเหมือนมนุษย์ พวกเขาจะมีสิทธิไหมที่จะรู้ว่าเราได้ล้อมพวกมันไว้เป็นแบบจำลอง

คนอื่นแย้งว่า เป็นการผิดศีลธรรมที่จะปิดหรือลบเครื่องที่มีสติสัมปชัญญะ: ตามที่ Robert หุ่นยนต์ของเรากลัว สิ่งนี้จะคล้ายกับการสิ้นสุดชีวิต มีสถานการณ์ที่เกี่ยวข้องเช่นกัน จะเป็นการดีหรือไม่ที่จะฝึกเครื่องจักรที่มีสติสัมปชัญญะถ้ามันหมายถึงการลบความทรงจำ? เราสามารถคัดลอก AI นั้นโดยไม่ทำร้ายความรู้สึกของตัวเองได้หรือไม่? จะเกิดอะไรขึ้นถ้าจิตสำนึกมีประโยชน์ในระหว่างการฝึกอบรม เมื่อประสบการณ์ส่วนตัวช่วยให้ AI เรียนรู้ แต่เป็นอุปสรรคเมื่อเรียกใช้แบบจำลองที่ผ่านการฝึกอบรม จะเป็นการดีหรือไม่ที่จะเปิดปิดสติ?

นี่เป็นเพียงรอยขีดข่วนพื้นผิวของปัญหาทางจริยธรรม นักวิจัยหลายคนรวมทั้งเดนเน็ตต์คิดว่าเราไม่ควรพยายามสร้างเครื่องจักรที่มีสติสัมปชัญญะแม้ว่าเราจะทำได้ก็ตาม นักปรัชญา Thomas Metzinger ได้ไปไกลถึงการเรียกร้อง พักการทำงานที่อาจนำไปสู่การมีสติ แม้ว่าจะไม่ใช่เป้าหมายที่ตั้งใจไว้ก็ตาม


หากเราตัดสินใจว่าเครื่องจักรที่มีสติสัมปชัญญะมีสิทธิ พวกเขาจะมีความรับผิดชอบด้วยหรือไม่? เป็นไปได้ไหมที่ AI จะถูกคาดหวังให้ประพฤติตนอย่างมีจริยธรรม และเราจะลงโทษมันหรือไม่ ถ้าไม่เป็นเช่นนั้น คำถามเหล่านี้ผลักดันไปสู่ดินแดนที่มีหนามมากขึ้น ทำให้เกิดปัญหาเกี่ยวกับเจตจำนงเสรีและธรรมชาติของการเลือก สัตว์มีประสบการณ์อย่างมีสติและเราอนุญาตให้พวกมันมีสิทธิบางอย่าง แต่พวกมันไม่มีหน้าที่รับผิดชอบ ถึงกระนั้นขอบเขตเหล่านี้ก็เปลี่ยนไปตามกาลเวลา ด้วยเครื่องจักรที่มีสติ เราสามารถคาดหวังขอบเขตใหม่ทั้งหมดได้

เป็นไปได้ว่าวันหนึ่งอาจมีรูปแบบต่างๆ ของสติได้มากพอๆ กับ AI ประเภทต่างๆ แต่เราจะไม่มีทางรู้ว่าการเป็นเครื่องจักรเหล่านี้เป็นอย่างไร มากกว่าที่เราจะรู้ว่าการเป็นปลาหมึก ค้างคาว หรือแม้แต่บุคคลอื่นเป็นอย่างไร อาจมีรูปแบบของการมีสติที่เราไม่รู้ว่ามันคืออะไร เพราะมันแตกต่างอย่างสิ้นเชิงจากที่เราคุ้นเคย

ต้องเผชิญกับความเป็นไปได้ดังกล่าว เราจะต้องเลือกอยู่กับความไม่แน่นอน

และเราอาจตัดสินใจว่าเรามีความสุขกับซอมบี้มากขึ้น ตามที่ Dennett โต้แย้ง เราต้องการให้ AI เป็นเครื่องมือ ไม่ใช่เพื่อนร่วมงาน “คุณสามารถปิดมัน ฉีกมันออกจากกันได้ เช่นเดียวกับที่คุณทำกับรถยนต์” เขากล่าว “และนั่นคือวิธีที่เราควรรักษามันไว้”

Will Douglas Heaven เป็นบรรณาธิการอาวุโสของ AI ที่ MIT Technology Review

Leave a Reply

Your email address will not be published. Required fields are marked *

Back to top button