ปัญญาประดิษฐ์ถูกสร้างขึ้นจากปัญญาของมนุษย์ อย่างไรก็ตามเมื่อปัญญาประดิษฐ์ถูกสร้างขึ้นแล้ว ตัวAI จะมีความเป็นตัวมันเอง สามารถนำผลกระทบบางอย่างมาสู่สังคมได้ ดังนั้น จึงจำเป็นอย่างยิ่งที่จะต้องมีการกำกับดูแล

นาย เหอเจียหง ศาสตราจารย์คณะนิติศาสตร์แห่งมหาวิทยาลัยประชาชนแห่งประเทศจีนได้ให้ความเห็นว่า การกำกับดูแลสังคมอัจฉริยะควรมีสองด้าน: ประการแรก คือการกำกับดูแลสังคมอัจฉริยะ ประการที่สองคือการกำกับดูแลสังคมอย่างชาญฉลาด การประยุกต์ใช้เทคโนโลยีปัญญาประดิษฐ์อย่างกว้างขวางในสังคมจะสามารถช่วยส่งเสริมการพัฒนาและการเปลี่ยนแปลงของสังคม และยังสามารถก่อให้เกิดปัญหาใหม่ๆ แล้วเราควรจัดการสังคมรูปแบบใหม่นี้อย่างไร ? สิ่งที่เราต้องการศึกษาต่อไป คือ ปัญญาประดิษฐ์ ซึ่งเป็นสิ่งที่เราจะทำการกำกับดูแล นอกจากนี้เทคโนโลยีปัญญาประดิษฐ์ยังถูกนำมาใช้อย่างแพร่หลายในการกำกับดูแลสังคม นั่นคือการใช้วิธีการของปัญญาประดิษฐ์ในการปกครองสังคมมนุษย์ สิ่งที่เราต้องการศึกษาต่อไปคือปัญญาประดิษฐ์ที่เป็นเครื่องมือในการกำกับดูแล แน่นอนว่าการกำกับดูแลทั้งสองระดับนี้มีอิทธิพลต่อกันและกันและมีส่วนเสริมซึ่งกันและกัน

ปัญญาประดิษฐ์มีข้อดีหลายประการ สามารถช่วยอำนวยความสะดวกให้กับเราในการทำงานและการใช้ชีวิต ช่วยเราแก้ปัญหาต่างๆ ปัญญาประดิษฐ์ก็ยังเป็นดาบสองคม ซึ่งสามารถทำสิ่งที่ดีและไม่ดีได้ นี่เป็นปัญหาที่ละเลยไม่ได้เลยเมื่อเราต้องทำการศึกษาสังคมอัจฉริยะ เทคโนโลยีใหม่ๆ เช่นคอมพิวเตอร์ อินเทอร์เน็ตและ Big data ได้ให้การสนับสนุนทางเทคนิคสำหรับการพัฒนาสังคมของเราและขยายช่องว่างในการพัฒนา อย่างไรก็ตามเมื่อเราใช้เทคโนโลยีอันชาญฉลาดเหล่านี้ในการกำกับดูแลสังคม ควรมีขีดจำกัดหรือไม่ ? อะไรที่เราจะปล่อยให้ปัญญาประดิษฐ์ทำให้ถึงที่สุดและอะไรที่ปัญญาประดิษฐ์ไม่ควรทำ เราไม่สามารถทำให้ปัญญาประดิษฐ์ทำได้ทุกอย่าง และยิ่งสามารถทำให้ปัญญาประดิษฐ์เป็นเจ้าแห่งสังคมของมนุษย์ได้ ความตั้งใจเดิมของมนุษย์ในการสร้างปัญญาประดิษฐ์เป็นสิ่งที่ดี แต่บทบาทของมันก็อาจจะชั่วร้ายด้วย ตัวอย่างเช่นปัญญาประดิษฐ์อาจละเมิดความเป็นส่วนตัวของเรา

ความก้าวหน้าของปัญญาประดิษฐ์กำลังเปลี่ยนแปลงสังคมมนุษย์และเปลี่ยนแปลงชีวิตของเรา แล้วปัญญาประดิษฐ์จะเปลี่ยนแปลงมนุษย์หรือไม่และจะเปลี่ยนแปลงธรรมชาติของมนุษย์ของเราหรือไม่ ? นี่เป็นคำถามที่เราควรพิจารณา ศาสตราจารย์เหอเจียหงคิดว่า การพัฒนาปัญญาประดิษฐ์จะทำให้ปัญญาของมนุษย์น้อยลงหรือไม่ ? กว่า 20 ปีที่แล้ว เรามีกล้องอัจฉริยะซึ่งเรียกว่ากล้องคอมแพค ภาษาจีนเรียกว่า กล้องคนโง่ （傻瓜相机）แต่ก่อน การถ่ายภาพเป็นงานด้านเทคนิค ช่างภาพต้องตั้งค่ารูรับแสงและความเร็วชัตเตอร์ด้วยประสบการณ์ของตัวเอง จากนั้นจึงปรับโฟกัสตามระยะซึ่งค่อนข้างยากพอสมควร หลังจากที่มีกล้องอัจฉริยะ ปัญหาเหล่านี้จะหมดไป เพราะมนุษย์ไม่ต้องมานั่งแก้นั่งปรับอีกต่อไป เพราะฉะนั้นเราก็เลยเรียกกล้องคอมแพคว่า กล้องคนโง่ ไม่ได้หมายความว่ากล้องโง่ แต่หมายความว่า คนที่ไม่มีความรู้ก็สามารถถ่ายภาพได้ มันเลยทำให้มนุษย์ถ่ายภาพไม่เป็น

สิ่งนี้แสดงให้เห็นว่า เมื่อปัญญาประดิษฐ์มอบสิ่งอำนวยความสะดวกต่างๆ ให้กับเรา มันยังนำไปสู่การลดความสามารถบางอย่างของมนุษย์ การทำงานของร่างกายมนุษย์ต้องมีการใช้บ่อยๆ หากไม่ได้ใช้งานเป็นเวลานานจะเสื่อมสภาพได้ ศาสตราจารย์เหอเจียหงกล่าวว่า บางครั้งจะมีบ้างเวลาเขียนหนังสือจะนึกตัวที่จะเขียนไม่ออก จำไม่ได้ว่าเขียนยังไง โดยปกติตัวศาสตราจารย์เองจะใช้คอมพิวเตอร์และไม่ค่อยใช้ปากกาในการเขียนหนังสือ ทำให้ประสิทธิภาพการเขียนของศาสตราจารย์ลดลงอย่างเห็นได้ชัด ไม่เพียงแต่จะเขียนได้ไม่ดี แต่ศาสตราจารย์กลับเขียนไม่เป็น ตอนนี้เรามีปัญญาประดิษฐ์มากมายในชีวิตครอบครัว เช่น เครื่องกวาดพื้นอัจฉริยะ เครื่องซักผ้าอัจฉริยะ หม้อหุงข้าวอัจฉริยะ ตู้เย็นอัจฉริยะ เป็นต้น เราได้รับการปลดปล่อยจากงานบ้านเหล่านี้ แต่ในขณะเดียวกันเราก็สูญเสียความสามารถบางอย่างไป ในอนาคตเราอาจมีเตียงอัจฉริยะที่ไม่เพียงควบคุมการนอนหลับของเรา แต่ยังช่วยให้เราออกแบบฝันดีได้อีกด้วย นอกจากนี้การที่เราตื่นนอน มันยังสามารถช่วยให้เราใส่เสื้อผ้าได้ทุกชิ้น หากเป็นเช่นนี้ต่อไปเราจะโง่มากขึ้นเรื่อยๆ ไหม ? และมนุษยชาติรุ่นต่อๆ ไปจะเป็นคนมีสติปัญญาอ่อนลงหรือด้อยค่ามากขึ้นเรื่อยๆ หรือเปล่า ? ดังนั้น เมื่อเรากำลังสร้างสังคมอัจฉริยะ เรายังคงจำเป็นต้องมีกำหนดขีดจำกัดสำหรับปัญญาประดิษฐ์ว่าอะไรที่ทำได้และอะไรที่ทำไม่ได้

ในโลกปัจจุบันที่คอมพิวเตอร์และอินเทอร์เน็ตก้าวหน้าอย่างรวดเร็ว มนุษย์ดูเหมือนจะยิ่งโดดเดี่ยวมากขึ้น วิตกกังวลมากขึ้น เห็นแก่ตัวและเย็นชา สังคมมนุษย์ก็ดูเหมือนจะมีการแตกแยกมากขึ้น เป็นปฏิปักษ์กันมากขึ้นและมีแนวโน้มที่จะความขัดแย้งจากกลุ่มคนที่แตกต่างกันมากขึ้น ในโลกเสมือนจริง แนวคิดหัวรุนแรงอาจจะสามารถทำได้ตามอำเภอใจโดยไม่ต้องเกรงกลัวใคร และยังจะได้รับการสนับสนุนจากผู้คนมากมายอีกด้วย เป็นผลให้ความสัมพันธ์ระหว่างประเทศตึงเครียดมากขึ้นและอันตรายจากสงครามก็เพิ่มขึ้นด้วย กล่าวกันว่าสงครามในอนาคต มนุษย์อาจไม่จำเป็นต้องไปออกรบเอง สามารถใช้อาวุธอัจฉริยะเช่น โดรน ในการออกรบได้ แต่ปัญหาคือโดรนเหล่านี้ไม่ใช่แค่โจมตีโดรนด้วยกัน แต่ยังมีชีวิตของผู้คนอีกด้วย! โดยสรุปแล้ว ปัญญาประดิษฐ์เป็นเหมือนดาบสองคมที่สามารถทำดีต่อมนุษย์และไม่ดีต่อมนุษย์ได้ ดังนั้นเมื่อเราสร้างสังคมอัจฉริยะ เราไม่เพียงแต่ต้องพัฒนาสิ่งที่ดีของปัญญาประดิษฐ์เท่านั้น แต่ยังต้องจำกัดความชั่วร้ายของปัญญาประดิษฐ์ ต้องมุ่งมั่นที่จะสร้างสังคมอัจฉริยะที่มีมนุษยนิยม ปัญญาประดิษฐ์เป็นสิ่งประดิษฐ์ที่สำคัญของสังคมมนุษย์ แต่ศาสตราจารย์หวังว่านี่จะไม่ใช่สิ่งประดิษฐ์สำคัญสุดท้ายของสังคมมนุษย์ อย่าปล่อยให้ปัญญาประดิษฐ์กลายเป็นผู้ยุติของมนุษยชาติ