การรักษาความปลอดภัย AI สำหรับระบบระดับภาครัฐ

คำแนะนำเรื่อง AI ส่วนใหญ่เขียนขึ้นเพื่อบริษัทเอกชนที่ปรับให้ตัวชี้วัดของเอกชนดีที่สุด แต่ระบบภาครัฐอยู่ภายใต้สัญญาที่ต่างออกไป มันจัดการข้อมูลของประชาชนโดยที่ประชาชนไม่มีสิทธิ์เลือกปฏิเสธ ตัดสินใจหรือมีอิทธิพลต่อการตัดสินใจที่มีผลบังคับของรัฐ และต้องทนต่อการตรวจสอบยาวนานหลังเปิดใช้ มาตรฐานจึงไม่ใช่ "มันทำงานได้ไหม" แต่เป็น "เราปกป้องทุกการตัดสินใจที่มันมีอิทธิพลต่อได้ไหม ต่อใครก็ตาม เมื่อใดก็ตาม"

AI ระดับภาครัฐจึงเกี่ยวกับ วิศวกรรมที่มีวินัยภายใต้ข้อจำกัด มากกว่าโมเดลแปลกใหม่ นี่คือหลักการที่เรายึดถือ และการควบคุมที่ทำให้หลักการเหล่านั้นเป็นจริง

หลักการ

อธิปไตยเหนือความสะดวก

ข้อมูลอยู่ที่ไหน ใครเข้าถึงได้ และอยู่ภายใต้เขตอำนาจของใคร คือการตัดสินใจเชิงออกแบบลำดับแรก ไม่ใช่เรื่องที่ค่อยคิดตอนนำไปใช้ ระบบภาครัฐไม่ควรพึ่งพาบุคคลที่สามที่อาจตัดการเข้าถึงข้อมูลหรือโมเดลได้ ไม่ว่าด้วยกฎหมายหรือเหตุขัดข้อง ความสะดวกที่แลกมาด้วยการสูญเสียการควบคุมคือภาระที่ปลอมตัวมาเป็นคุณสมบัติ

ตรวจสอบย้อนกลับได้โดยปริยาย

หากคุณสร้างขึ้นใหม่ไม่ได้ว่า ทำไม ระบบจึงให้ผลลัพธ์หนึ่ง ๆ คุณก็ปกป้องมันไม่ได้ และในภาครัฐ คุณจะถูกขอให้ปกป้อง ทุกการตัดสินใจที่ระบบมีอิทธิพลต่อต้องทิ้งร่องรอยที่คงทนและตรวจจับการแก้ไขได้ ทั้งอินพุต เวอร์ชันของโมเดล การควบคุมที่บังคับใช้อยู่ และมนุษย์ที่ทบทวน ความสามารถตรวจสอบย้อนกลับไม่ใช่ฟีเจอร์บันทึกที่ใส่ตอนท้าย แต่เป็นคุณสมบัติเชิงสถาปัตยกรรมที่ออกแบบไว้ตั้งแต่ต้น

ความเป็นธรรมคือข้อกำหนด ไม่ใช่ความใฝ่ฝัน

ผลิตภัณฑ์เอกชนทนต่อประสิทธิภาพที่ไม่เท่ากันระหว่างกลุ่มผู้ใช้ได้ แต่ของภาครัฐทนไม่ได้ บริการจากรัฐที่ไม่เท่าเทียมคือความล้มเหลวด้านความเป็นธรรมที่มีน้ำหนักทางกฎหมายและประชาธิปไตย ประสิทธิภาพต้องถูกวัด ข้าม กลุ่มประชากรที่ระบบให้บริการ เปิดเผยความเหลื่อมล้ำก่อนเปิดใช้ และบันทึกผลไว้ "เราไม่ได้ตรวจ" ไม่ใช่คำตอบที่ยอมรับได้ต่อประชาชน

อำนาจของมนุษย์เหนือการตัดสินใจที่มีผลกระทบ

ยิ่งการตัดสินใจกระทบสิทธิ สวัสดิการ หรือเสรีภาพของบุคคลมากเท่าใด ยิ่งไม่ควรให้โมเดลตัดสินใจลำพังมากเท่านั้น AI ช่วยให้ข้อมูล จัดลำดับ และนำเสนอได้ แต่มนุษย์ที่ระบุชื่อและรับผิดชอบต้องถืออำนาจเหนือผลลัพธ์ที่มีผลกระทบ โดยออกแบบระบบให้การกำกับของเขาเป็นจริง ไม่ใช่แค่การประทับตรา

การควบคุมที่ทำให้เป็นจริง

หลักการที่ไร้การควบคุมก็เป็นเพียงท่าที นี่คือแนวปฏิบัติเชิงวิศวกรรมที่เปลี่ยนหลักการข้างต้นให้เป็นสิ่งที่ผู้ตรวจสอบยืนยันได้

• จัดชั้นความลับข้อมูลก่อน ทุกแหล่งข้อมูลถูกจัดชั้นตามความอ่อนไหวก่อนถูกเคลื่อนย้าย การควบคุมจะตามการจัดชั้น คุณปกป้องสิ่งที่ยังไม่ติดป้ายไม่ได้
• สิทธิ์น้อยที่สุด บังคับใช้จริง การเข้าถึงข้อมูล โมเดล และโครงสร้างพื้นฐานให้แคบและทบทวนสม่ำเสมอ ปฏิเสธโดยปริยาย ไม่ใช่อนุญาตโดยปริยาย
• จัดการความลับและกุญแจ ไม่ฝังไว้ ข้อมูลรับรองตัวตนอยู่ในวอลต์ที่มีการหมุนเวียน ไม่ใช่ในโค้ด คอนฟิก หรือคอนเท็กซ์ของโมเดล
• ขอบเขตของโมเดลคือพื้นผิวการโจมตี อินพุตถูกตรวจสอบและเอาต์พุตถูกจำกัด การฉีดคำสั่ง (prompt injection) การดูดข้อมูลผ่านโมเดล และการใช้เครื่องมืออย่างไม่ปลอดภัย คือภัยที่ต้องออกแบบป้องกัน ไม่ใช่เรื่องเซอร์ไพรส์ที่ค่อยมาแก้
• ใช้การสืบค้นแทนการ fine-tune สำหรับความรู้ที่อ่อนไหว เมื่อระบบต้องใช้ข้อมูลที่เป็นปัจจุบันและถูกกำกับ รูปแบบการสืบค้นที่ควบคุมได้ (RAG) ทำให้แหล่งความจริงตรวจสอบและเพิกถอนได้ ปลอดภัยกว่าการอบข้อมูลอ่อนไหวเข้าไปในน้ำหนักของโมเดลมาก
• บันทึกที่ตรวจจับการแก้ไขได้ ร่องรอยการตัดสินใจถูกเขียนลงที่เก็บแบบเพิ่มได้อย่างเดียวและตรวจสอบความสมบูรณ์ บันทึกการตรวจสอบต้องแก้ไขยากพอ ๆ กับการตัดสินใจที่มันรับผิดชอบ
• เฝ้าระวังต่อเนื่อง ระบบถูกเฝ้าดูบน production เพื่อจับการเลื่อนไหล (drift) การใช้ในทางที่ผิด และการเสื่อมถอย และมีผู้รับผิดชอบลงมือต่อสิ่งที่การเฝ้าระวังแสดงให้เห็น

ในระบบภาครัฐ "ไว้ค่อยทำให้ปลอดภัยทีหลัง" คือประโยคที่แพงที่สุดในโครงการ ต้นทุนของการเอาความปลอดภัยมาแปะกับระบบที่ให้บริการประชาชนซึ่งใช้งานอยู่แล้ว ทั้งในแง่การรื้อทำใหม่ ความเสี่ยง และความเชื่อมั่น มากกว่าต้นทุนของการฝังมันไว้ตั้งแต่ต้นมหาศาล

การจัดซื้อจัดจ้างและความรับผิดชอบ

แม้ระบบที่สร้างมาดีก็ล้มเหลวได้หากสัญญารอบตัวมันอ่อนแอ ต้องยืนยันสิทธิ์ในการตรวจสอบ ความชัดเจนเรื่องความเป็นเจ้าของและถิ่นที่อยู่ของข้อมูล และแผนถอนตัวที่ไม่ทิ้งให้คุณติดอยู่กับผู้ขายที่จับข้อมูลหรือโมเดลของคุณเป็นตัวประกัน ความรับผิดชอบจ้างให้คนอื่นทำแทนไม่ได้ สถาบันที่นำระบบไปใช้คือผู้รับผิดชอบ สถาบันจึงต้องคงความสามารถในการตรวจสอบ กำกับ และเปลี่ยนระบบหากจำเป็น

บทสรุป

AI ระดับภาครัฐไม่ใช่ AI เชิงพาณิชย์รุ่นที่ทรงพลังกว่า แต่เป็นรุ่นที่ มีวินัยกว่า สร้างขึ้นให้มีอธิปไตย ตรวจสอบย้อนกลับได้ เป็นธรรม และรับผิดชอบ เพราะประชาชนที่มันให้บริการไม่เคยตกลงเป็นหนูทดลอง วางหลักการให้ถูกและออกแบบการควบคุมไว้ตั้งแต่วันแรก แล้ว AI จะกลายเป็นสิ่งที่ภาครัฐนำไปใช้ได้อย่างมั่นใจ แทนที่จะต้องมาขอโทษภายหลัง