หากคณะกรรมการบริหารความเสี่ยงถามว่า “เราบริหารความเสี่ยงด้าน AI อยู่หรือไม่” คำตอบที่ได้จะเป็น “ใช่” คำตอบนั้นไม่ได้โกหก แต่ก็พิสูจน์อะไรไม่ได้ หากคณะกรรมการถามว่าทะเบียนทรัพย์สินด้าน IT มีส่วนประกอบ AI กี่รายการ และกี่รายการระบุชื่อเจ้าของไว้ คำตอบที่ได้จะเป็นตัวเลข ไม่ก็ความเงียบ และทั้งสองแบบล้วนมีประโยชน์ บทนี้รวบรวมคำถามแบบหลังไว้ แต่ละข้อตอบได้จากเอกสารที่องค์กรซึ่งอยู่ภายใต้การกำกับดูแลจัดทำอยู่แล้ว พร้อมระบุหลักฐานที่ใช้ตอบ
บทที่ 1 แสดงให้เห็นว่าเกณฑ์ที่ผู้กำกับดูแลใช้ตรวจองค์กรอยู่แล้ว กำหนดให้องค์กรต้องรู้ว่าตนพึ่งพาอะไรอยู่ ต้องบริหารผู้ให้บริการที่อยู่เบื้องหลัง และต้องวางแผนรองรับเมื่อผู้ให้บริการเหล่านั้นขัดข้อง และหน้าที่เหล่านี้ครอบคลุม AI ที่องค์กรใช้อยู่ด้วย บทนี้ต่อยอดข้อสรุปนั้นเป็น คำถามที่คณะกรรมการถามได้ และ หลักฐานที่ใช้ตอบแต่ละข้อ ก่อนปิดท้ายด้วยคำถามห้าข้อที่ท่านตอบเองได้ในวันนี้
ทำไมเรื่องนี้จึงสำคัญ ลองถามฝ่ายบริหารเพียงข้อเดียวว่า “สมมติว่าพรุ่งนี้ผู้ให้บริการ AI หลักของเราใช้งานไม่ได้ กระบวนการใดของเราจะหยุดลง” องค์กรที่บันทึกการพึ่งพา AI ไว้จะตอบได้จากเอกสารภายในไม่กี่นาที องค์กรที่ไม่ได้บันทึกไว้ต้องเริ่มโทรถามทีละหน่วยงาน กว่าจะได้คำตอบก็บ่าย และคำตอบนั้นก็เป็นเพียงการคาดเดา
คณะกรรมการบริหารความเสี่ยงไม่ควรต้องรอให้ถึงวันที่ AI ขัดข้อง จึงจะรู้ว่าองค์กรที่ตนกำกับดูแลอยู่เป็นแบบใด คำถามเหล่านี้ช่วยให้รู้ได้ตั้งแต่วันที่ทุกอย่างยังปกติ
คณะกรรมการบริหารความเสี่ยงถามเรื่องความเสี่ยงด้านเครดิต สภาพคล่อง และความเสียหายด้านปฏิบัติการมานาน จนรู้ว่าคำตอบแบบใดจึงจะใช้ได้
AI เป็นเรื่องใหม่กว่า คำถามจึงมักออกมากว้าง เช่น เรามีนโยบายหรือไม่ มีผู้รับผิดชอบหรือไม่ เราปฏิบัติตามเกณฑ์แล้วหรือไม่ คำถามแบบนี้ได้คำตอบ “ใช่” อย่างมั่นใจทุกครั้ง แต่ตรวจสอบไม่ได้สักข้อ
ทางแก้ไม่ใช่การถามให้มากขึ้น แต่ต้องถามให้ต่างออกไป คือถามคำถามที่ต้องตอบเป็นตัวเลข และตัวเลขนั้นต้องมาจากเอกสารที่มีอยู่แล้ว
บทนี้เขียนสำหรับกรรมการในคณะกรรมการบริหารความเสี่ยงหรือคณะกรรมการตรวจสอบขององค์กรใดก็ตามที่อยู่ภายใต้การกำกับดูแลในประเทศไทยและใช้ AI อยู่ สำหรับ CRO และหัวหน้าหน่วยงานตรวจสอบภายในที่นำเสนอข้อมูลต่อคณะกรรมการเหล่านั้น และสำหรับ CIO หรือ CDO ซึ่งจะเป็นผู้ตอบคำถาม
เลขข้อที่อ้างถึงเป็นของ ธปท. เพราะบทนี้ใช้ภาคธนาคารเป็นกรณีตัวอย่างเช่นเดียวกับบทที่ 1 แต่ตัวคำถามใช้ได้กับทุกองค์กรที่มีทะเบียนทรัพย์สินด้าน IT ทะเบียนบุคคลภายนอก BIA และ BCP หัวข้อ “ภาคธุรกิจอื่นที่อยู่ภายใต้การกำกับดูแล” ในบทที่ 1 ระบุว่าเอกสารชุดเดียวกันนี้อยู่ตรงไหนในเกณฑ์ของบริษัทประกันภัยและหน่วยงานโครงสร้างพื้นฐานสำคัญทางสารสนเทศ
คำตอบของคำถามด้านการกำกับดูแลแบ่งได้เป็นสี่ขั้น และมีเพียงขั้นบนสุดที่ตอบคำถามของคณะกรรมการได้
คำถามทุกข้อด้านล่างต้องตอบเป็นตัวเลขจากเอกสาร หากฝ่ายบริหารให้ตัวเลขไม่ได้ ก็ไม่ได้แปลว่าตอบไม่ดี แต่คณะกรรมการได้ข้อค้นพบแล้วหนึ่งข้อ
คำถามส่วนใหญ่ต่อยอดจากบทที่ 1 ว่าองค์กรพึ่งพา AI อะไรอยู่ และจะเกิดอะไรขึ้นเมื่อ AI นั้นเปลี่ยนไปหรือขัดข้อง มีสามข้อที่ขยายออกไปนอกเรื่องนี้ ได้แก่ ข้อมูลส่วนบุคคล (ข้อ 5) สิ่งที่ AI Agent ทำได้เองโดยไม่มีคนเข้ามาเกี่ยวข้อง (ข้อ 7) และข้อร้องเรียนของลูกค้า (ข้อ 10) ทั้งสามข้อนี้เกี่ยวกับความต่อเนื่องน้อยกว่าข้ออื่น แต่คณะกรรมการที่กำกับดูแลความเสี่ยงด้าน AI ก็ต้องตอบเรื่องเหล่านี้ได้เช่นกัน
ทำไมจึงสำคัญ องค์กรที่อยู่ภายใต้การกำกับดูแลส่วนใหญ่ต้องจัดทำทะเบียนทรัพย์สินด้าน IT และ AI ที่องค์กรใช้อยู่ก็เป็นส่วนหนึ่งของระบบ IT ขององค์กร หากอ่านตามตัวอักษร โมเดลและ AI Agent ล้วนเป็นทรัพย์สินด้าน IT นี่เป็นการตีความของเรา ไม่ใช่สิ่งที่ผู้กำกับดูแลระบุไว้ ในทางปฏิบัติ ทะเบียนมักบันทึกแอปพลิเคชันที่ใช้ AI ไม่ได้บันทึกโมเดลหรือ AI Agent ที่อยู่เบื้องหลัง และธนาคารอาจแยกโมเดลที่พัฒนาเองไว้ในทะเบียนโมเดลอีกฉบับหนึ่ง หากนับได้ศูนย์ ทะเบียนน่าจะยังไม่ครบถ้วน หรือบันทึก AI ไว้เพียงในระดับแอปพลิเคชัน ให้ถามต่อว่าเป็นกรณีใด เหตุผลที่ต้องนับแยกเป็นสองประเภทคือ แต่ละประเภทเกิดปัญหาต่างกัน โมเดลอาจให้ผลผิด และ AI Agent อาจลงมือทำเอง ส่วนเหตุผลที่ต้องระบุเจ้าของคือ รายการที่ไม่มีเจ้าของจะไม่มีใครมีอำนาจสั่งหยุดใช้ คีย์ที่บริการเหล่านี้ใช้จะนับในคำถามข้อ 7 ตัวอย่างภาคธนาคาร: ประกาศ ธปท. เรื่องความเสี่ยงด้าน IT กำหนดให้การจัดทำทะเบียนนี้เป็นหน้าที่ที่มีผลผูกพัน โดยทะเบียนต้องระบุรายการทรัพย์สินด้าน IT ได้อย่างครบถ้วน (เอกสารแนบ 2 ข้อ 1)
หลักฐานที่ใช้ตอบ รายการจากทะเบียน และจากทะเบียนโมเดลหากมี ที่กรองเฉพาะ AI พร้อมเจ้าของและวันที่ปรับปรุงล่าสุดของแต่ละรายการ จากนั้นสุ่มสองรายการ แล้วไล่ตามไปจนถึงระบบที่ทำงานอยู่จริง
ทำไมจึงสำคัญ AI เข้ามาในองค์กรโดยไม่ผ่านใบสั่งซื้อทางนี้บ่อยที่สุด ผู้ให้บริการเพิ่มฟังก์ชัน AI ลงในชุดโปรแกรมสำนักงาน ระบบ CRM หรือระบบ Service Desk ผู้ดูแลระบบเปิดใช้งาน แล้วข้อมูลขององค์กรก็เริ่มไหลไปยังโมเดล ภายใต้สัญญาที่ไม่มีใครกลับไปอ่านซ้ำ บทหนึ่งในซีรีส์นี้จะลงรายละเอียดเรื่อง AI ที่มาพร้อมกับซอฟต์แวร์ที่องค์กรมีสิทธิ์ใช้งานอยู่แล้ว
หลักฐานที่ใช้ตอบ ไฟล์ส่งออก (export) จากหน้าจอผู้ดูแลระบบ (admin console) ของแต่ละบริการ ซึ่งแสดงการตั้งค่าฟังก์ชัน AI และสิทธิ์ใช้งาน AI แบบ add-on พร้อมวันที่ส่งออก นำมาเทียบกับรายการในทะเบียน หน้าจอผู้ดูแลระบบแสดงเพียงสถานะ ณ ปัจจุบัน วันที่ส่งออกจึงเป็นส่วนสำคัญของหลักฐาน
ทำไมจึงสำคัญ รายการเครื่องมือที่อนุมัติจะมีผลก็ต่อเมื่อมีคนตรวจเทียบกับการใช้งานจริง ชื่อรายงานที่เป็นที่มาของตัวเลขจึงสำคัญพอ ๆ กับตัวเลขเอง คำว่า “เราบล็อกไว้แล้ว” เป็นเพียงคำกล่าวอ้าง รายงานการบล็อกต่างหากที่เป็นหลักฐาน
หลักฐานที่ใช้ตอบ รายงานจาก web proxy จาก DNS จาก firewall หรือจากระบบควบคุมการเข้าถึงบริการคลาวด์ สำหรับโดเมนของบริการ Generative AI ที่รู้จัก นับแยกตามบริการและหน่วยงาน ไม่ระบุชื่อพนักงาน องค์กรขนาดเล็กอาจแยกตามหน่วยงานไม่ได้ หากเป็นเช่นนั้นให้แจ้งตามจริง อย่าใช้ตัวเลขประมาณ
ทำไมจึงสำคัญ องค์กรที่อยู่ภายใต้การกำกับดูแลทุกแห่งมีวิธีตัดสินว่าระบบและการเปลี่ยนแปลงใดสำคัญที่สุด ไม่ว่าจะเป็นการจัดระดับความสำคัญ การจัดระดับความมีนัยสำคัญ หรือรายการบริการที่สำคัญ ผลการจัดระดับเป็นตัวกำหนดว่าต้องมีการควบคุม การอนุมัติ และการรายงานแบบใด ในทางปฏิบัติ การจัดระดับมักทำกับระบบ กรณีการใช้งาน AI จึงมักได้รับการจัดระดับผ่านแอปพลิเคชันที่ AI นั้นทำงานอยู่ หากกรณีการใช้งานใดไม่อยู่ในระบบที่ได้รับการจัดระดับเลย ก็เท่ากับไม่เคยถูกตรวจเทียบกับข้อกำหนดเหล่านี้สักข้อ ทะเบียนความเสี่ยงหรือ RCSA เป็นจุดตรวจที่สอง เอกสารทั้งสองจัดทำรายกระบวนการ ไม่ใช่รายกรณีการใช้งาน สิ่งที่ต้องถามจึงเป็นว่าความเสี่ยงของกระบวนการนั้นกล่าวถึง AI ไว้บ้างหรือไม่ หากไม่ได้กล่าวถึง ความเสี่ยงด้าน AI ก็หลุดออกจากการบริหารความเสี่ยงที่คณะกรรมการขององค์กรอาศัยในการกำกับดูแล ตัวอย่างภาคธนาคาร: ข้อ 9 ของประกาศ ธปท. เรื่องความเสี่ยงด้าน IT ให้ธนาคารแต่ละแห่งกำหนดหลักเกณฑ์ความมีนัยสำคัญของตนเอง โดยให้คณะกรรมการที่ได้รับมอบหมายจากคณะกรรมการธนาคารเป็นผู้อนุมัติและทบทวนทุกปี หลักเกณฑ์นี้เป็นตัวกำหนดว่าการเปลี่ยนแปลงใดต้องแจ้ง ธปท. ล่วงหน้า (ธนาคารพาณิชย์ ข้อ 10.1.1) หรือต้องได้รับอนุญาตจาก ธปท. ก่อน (สถาบันการเงินเฉพาะกิจ ข้อ 10.1.2)
หลักฐานที่ใช้ตอบ หลักเกณฑ์การจัดระดับที่อนุมัติแล้วพร้อมผลการทบทวนครั้งล่าสุด รายการกรณีการใช้งาน AI โดยระบุว่าแต่ละกรณีทำงานอยู่บนระบบใดที่ได้รับการจัดระดับแล้ว และรายการในทะเบียนความเสี่ยงหรือ RCSA ที่กล่าวถึง AI พร้อมเจ้าของความเสี่ยงและวันที่ทบทวนล่าสุด
ทำไมจึงสำคัญ สำหรับคณะกรรมการบริหารความเสี่ยงส่วนใหญ่ คำถามแรกเรื่อง AI คือข้อมูลส่วนบุคคลไหลไปที่ใด และพระราชบัญญัติคุ้มครองข้อมูลส่วนบุคคลใช้กับทุกภาค บริการ AI ที่ได้รับข้อมูลส่วนบุคคลแต่ไม่อยู่ในบันทึกรายการกิจกรรมการประมวลผลข้อมูลส่วนบุคคล (Record of Processing Activities) เป็นช่องว่างที่เจ้าหน้าที่คุ้มครองข้อมูลส่วนบุคคล (DPO) เห็นได้ทันที ในทางปฏิบัติ บันทึกรายการกิจกรรมการประมวลผลมักระบุชื่อซอฟต์แวร์ ไม่ได้ระบุฟังก์ชัน AI ที่อยู่ข้างใน และไม่มีเงื่อนไขตามสัญญา เรื่องสถานที่ประมวลผล ระยะเวลาเก็บรักษา และการนำข้อมูลไปฝึกโมเดล อยู่ในข้อตกลงการประมวลผลข้อมูลส่วนบุคคล (Data Processing Agreement: DPA) หรือในสัญญา ซึ่งฝ่ายกฎหมายหรือฝ่ายจัดซื้อเป็นผู้เก็บ เงื่อนไขเรื่องการนำข้อมูลไปฝึกโมเดลต้องดูให้ดี เพราะเงื่อนไขนี้ตัดสินว่าข้อมูลยังอยู่ภายในบริการที่องค์กรซื้อมาหรือไม่ ตัวอย่างภาคธนาคาร: แนวนโยบาย AI ของ ธปท. คาดหวังให้มีการควบคุมการเข้าถึง การปกปิดข้อมูล (data masking) และมาตรการป้องกันในทำนองเดียวกันสำหรับข้อมูลส่วนบุคคลที่ใช้กับ AI (ส่วนที่ 2 (1.3)) และระบุว่าผู้ให้บริการต้องปฏิบัติตามกฎหมายคุ้มครองข้อมูลส่วนบุคคล (Q&A 4)
หลักฐานที่ใช้ตอบ บันทึกรายการกิจกรรมการประมวลผลที่กรองเฉพาะบริการ AI คู่กับข้อตกลงการประมวลผลข้อมูลส่วนบุคคลหรือข้อสัญญาของแต่ละบริการ ที่ระบุสถานที่ประมวลผล ระยะเวลาเก็บรักษา และเงื่อนไขของผู้ให้บริการเรื่องการนำข้อมูลไปฝึกโมเดล พร้อมวันที่ของข้อตกลง
ทำไมจึงสำคัญ ผู้ให้บริการ AI ก็เป็นผู้ให้บริการภายนอกเช่นเดียวกับรายอื่น และเกณฑ์ด้านการใช้บริการจากภายนอกส่วนใหญ่คาดหวังให้องค์กรรู้ว่าผู้ให้บริการของตนเป็นใคร และประเมินผู้ให้บริการเหล่านั้น ผู้ให้บริการ AI ตกหล่นจากทะเบียนได้ง่าย เพราะบางรายเข้ามาจากการที่นักพัฒนาใช้บัตรเครดิตสมัครเอง หรือมากับการอัปเกรด SaaS และบางรายใช้งานได้ผ่านผู้ให้บริการรายอื่นเท่านั้น หากกรณีการใช้งานที่มีนัยสำคัญหลายกรณีพึ่งพาผู้ให้บริการรายเดียวกัน ผู้ให้บริการรายนั้นคือจุดล้มเหลวจุดเดียว (single point of failure) ตัวอย่างภาคธนาคาร: แนวปฏิบัติการบริหารจัดการความเสี่ยงจากบุคคลภายนอกของ ธปท. (แนวปฏิบัติ TPRM) คาดหวังให้มีทะเบียนการใช้บริการจากบุคคลภายนอก (ข้อ 7.4) และให้ประเมินความเสี่ยงจากการผูกติดกับผู้ให้บริการรายใดรายหนึ่งและความเสี่ยงจากการกระจุกตัว รวมถึงการกระจุกตัวผ่านผู้รับจ้างช่วง ทั้งก่อนใช้บริการและเป็นระยะ (ข้อ 7.1 (8) และ (9)) นอกจากนี้ เอกสารแนบ 2 ข้อ 10.2 ของประกาศเรื่องความเสี่ยงด้าน IT ยังกำหนดเรื่องการกระจุกตัวและการผูกติดกับผู้ให้บริการรายใดรายหนึ่งไว้โดยมีผลผูกพันด้วย
หลักฐานที่ใช้ตอบ ทะเบียนบุคคลภายนอกที่กรองเฉพาะผู้ให้บริการ AI พร้อมระบุว่าแต่ละรายใช้ผ่านผู้ให้บริการรายใด แฟ้มการประเมินของผู้ให้บริการรายที่มีนัยสำคัญแต่ละราย พร้อมวันที่ประเมิน และรายการกรณีการใช้งานที่จัดอยู่ในระดับมีนัยสำคัญ พร้อมผู้ให้บริการที่แต่ละกรณีพึ่งพาอยู่
ทำไมจึงสำคัญ AI ที่ตอบคำถามอาจตอบผิดได้ แต่ AI ที่ลงมือทำงานอาจทำผิดเป็นวงกว้างก่อนที่ใครจะสังเกตเห็น ขนาดของความเสี่ยงนี้วัดได้จากจำนวน AI Agent ที่ทำงานได้โดยไม่ต้องมีคนอนุมัติ และสิทธิ์การเข้าถึงที่ AI Agent เหล่านั้นมีอยู่ บัญชีของ AI Agent และคีย์ของผู้ให้บริการ AI มักหลุดจากการทบทวนสิทธิ์ เพราะไม่มีคนใช้บัญชีเหล่านั้นเข้าระบบ การทบทวนสิทธิ์จำนวนมากครอบคลุมเฉพาะบัญชีผู้ดูแลระบบที่เป็นคน และคีย์มักไม่อยู่ในทะเบียนใดเลย ตัวอย่างภาคธนาคาร: ประกาศ ธปท. เรื่องความเสี่ยงด้าน IT กำหนดให้ควบคุมบัญชีผู้ใช้งานที่มีสิทธิ์ระดับสูงอย่างเข้มงวด (เอกสารแนบ 2 ข้อ 3.1) ส่วนแนวนโยบาย AI ของ ธปท. ระบุว่าธนาคาร “อาจพิจารณา” ให้มนุษย์มีส่วนร่วมในการตัดสินใจ (human in the loop) หรือกำกับดูแล (human over the loop) สำหรับงานที่เกี่ยวข้องกับการตัดสินใจเชิงกลยุทธ์หรือส่งผลกระทบต่อลูกค้าโดยตรง (ส่วนที่ 1 (3.2)) ถ้อยคำนี้เป็นทางเลือก ไม่ใช่ข้อกำหนด
หลักฐานที่ใช้ตอบ ผลการทบทวนสิทธิ์สำหรับบัญชีบริการ (service account) ของ AI และรายการคีย์ของผู้ให้บริการ AI จากระบบจัดเก็บข้อมูลลับ ทั้งสองอย่างพร้อมเจ้าของ ขอบเขตสิทธิ์ และวันที่เปลี่ยนรหัสหรือคีย์ (rotation) ครั้งล่าสุด ส่วน AI Agent แต่ละตัว ให้ระบุจากการตั้งค่าหรือเอกสารออกแบบว่าเขียนข้อมูลลงระบบใดได้บ้าง การกระทำแต่ละครั้งต้องมีคนอนุมัติหรือไม่ และบันทึกการกระทำไว้ที่ใด
ทำไมจึงสำคัญ การเปลี่ยนโมเดลอาจทำให้ทุกคำตอบของบริการเปลี่ยนไป ขณะที่บริการยังทำงานตามปกติ การเปลี่ยนแปลงบางครั้งองค์กรเป็นผู้ทำเอง บางครั้งมาจากผู้ให้บริการ และบางครั้งก็ไม่มีการแจ้งล่วงหน้า หากไม่ได้ทดสอบเทียบกับรุ่นก่อนหน้า ภายหลังก็จะไม่มีใครอธิบายการเปลี่ยนแปลงนั้นได้ ควรนับด้วยว่ามีกี่ระบบที่เรียกใช้โมเดลรุ่นที่ผู้ให้บริการเปลี่ยนได้ตามต้องการ เพราะระบบเหล่านี้รับการเปลี่ยนแปลงที่ไม่มีใครบันทึกไว้ ตัวอย่างภาคธนาคาร: แนวนโยบาย AI ของ ธปท. คาดหวังให้ทดสอบและติดตามประสิทธิภาพของโมเดลและความน่าเชื่อถือของผลลัพธ์ทั้งก่อนและหลังการใช้งานอย่างต่อเนื่อง (ส่วนที่ 2 (2.2)) ส่วนการเปลี่ยนโมเดลในระบบที่จัดอยู่ในระดับมีนัยสำคัญต้องแจ้ง ธปท. ล่วงหน้าตามข้อ 9 และข้อ 10.1 หรือไม่ เป็นเรื่องที่ธนาคารแต่ละแห่งต้องวินิจฉัยเอง
หลักฐานที่ใช้ตอบ บันทึกการเปลี่ยนแปลงที่กรองเฉพาะ AI พร้อมผลการทดสอบเทียบรุ่นก่อนและหลังของการเปลี่ยนแปลงแต่ละครั้ง และบันทึกผลการตรวจสอบความถูกต้องของโมเดล (model validation) หากองค์กรมี หนังสือแจ้งการเปลี่ยนแปลงที่ได้รับจากผู้ให้บริการ และจำนวนระบบที่ใช้โมเดลรุ่นที่ผู้ให้บริการเปลี่ยนได้โดยไม่แจ้งล่วงหน้า หากนับการปรับปรุงจากผู้ให้บริการได้ศูนย์ครั้ง มักแปลว่าไม่มีใครคอยติดตาม ไม่ใช่ว่าไม่มีอะไรเปลี่ยน
ทำไมจึงสำคัญ แผนรองรับความต่อเนื่องครอบคลุมเฉพาะสิ่งที่ BIA ระบุไว้ แต่ BIA มักระบุแอปพลิเคชัน ไม่ได้ระบุบริการ AI ที่อยู่เบื้องหลัง จึงต้องไล่การพึ่งพาผ่านแอปพลิเคชันลงไป กระบวนการที่ตกหล่นการพึ่งพา AI ไป ย่อมไม่มีแผนรองรับสำหรับวันที่ AI นั้นใช้งานไม่ได้ หัวใจของข้อนี้อยู่ที่คำว่า “ทดสอบ” เพราะทางเลือกที่มีอยู่แต่ในเอกสารจะใช้ไม่ได้ในวันที่ต้องใช้จริง ตัวอย่างภาคธนาคาร: เอกสารแนบ 2 ข้อ 10.5.9 ของประกาศ ธปท. เรื่องความเสี่ยงด้าน IT กำหนดให้ระบบงานสำคัญ (ประกาศใช้คำว่า ระบบงานเทคโนโลยีสารสนเทศที่มีนัยสำคัญ) ซึ่งใช้บริการคลาวด์สาธารณะ ต้องมีแผนรองรับกรณีเลวร้าย รวมถึงกรณีทุก region ที่ใช้อยู่หยุดชะงัก ส่วน LLM API นับเป็นการใช้บริการคลาวด์สาธารณะหรือไม่ เป็นเรื่องที่ธนาคารแต่ละแห่งต้องวินิจฉัยเอง แต่ไม่ว่าจะวินิจฉัยอย่างไร คำถามข้างต้นก็ยังใช้ได้
หลักฐานที่ใช้ตอบ รายการใน BIA พร้อมบริการ AI ที่อยู่เบื้องหลังแต่ละแอปพลิเคชันที่รายการนั้นระบุ ส่วนของ BCP หรือแผนกู้คืนระบบ IT ที่มีสถานการณ์ผู้ให้บริการขัดข้อง และรายงานผลการทดสอบครั้งล่าสุดพร้อมวันที่
ทำไมจึงสำคัญ องค์กรที่อยู่ภายใต้การกำกับดูแลจำนวนมากต้องรายงานเหตุการณ์ด้าน IT ที่ร้ายแรงต่อผู้กำกับดูแลของตน เหตุการณ์ด้าน AI มีความหมายกว้างกว่าการที่ AI หยุดทำงาน เพราะรวมถึงผลลัพธ์ที่ผิดพลาดเป็นจำนวนมาก และกรณีที่ผู้ให้บริการเปลี่ยนโมเดลจนผลลัพธ์เปลี่ยนไป บันทึกเหตุการณ์มีเฉพาะสิ่งที่มีคนตรวจพบแล้ว ส่วนข้อร้องเรียนช่วยตรวจจับปัญหาจากภายนอก บันทึกข้อร้องเรียนอยู่ในความดูแลของฝ่ายบริการลูกค้าหรือหน่วยงานด้าน market conduct ไม่ใช่ฝ่าย IT และจำแนกตามผลิตภัณฑ์และช่องทาง AI จึงแทบไม่เคยปรากฏเป็นสาเหตุ หากบันทึกทั้งสองไม่มีประเภท AI เหตุการณ์เหล่านี้จะตกหล่นหรือถูกบันทึกเป็นประเภทอื่น และจะไม่มีใครถามว่าเหตุการณ์นั้นถึงเกณฑ์ที่ต้องรายงานหรือไม่ หากนับได้ศูนย์ในข้อนี้ มักแปลว่าบันทึกยังจับเรื่อง AI ไม่ได้ ไม่ใช่ว่าไม่มีอะไรเกิดขึ้น ตัวอย่างภาคธนาคาร: ข้อ 10.3 ของประกาศ ธปท. เรื่องความเสี่ยงด้าน IT กำหนดให้รายงาน ธปท. โดยเร็วเมื่อเกิดเหตุการณ์ด้าน IT ที่มีนัยสำคัญ และแนวนโยบาย AI ของ ธปท. คาดหวังให้แจ้งลูกค้าเมื่อลูกค้ากำลังใช้บริการที่เป็น AI (ส่วนที่ 1 (3.3))
หลักฐานที่ใช้ตอบ เกณฑ์จำแนกประเภทเหตุการณ์ที่มีประเภท AI บันทึกเหตุการณ์และบันทึกข้อร้องเรียนที่กรองเฉพาะ AI และบันทึกผลการพิจารณาของแต่ละเหตุการณ์ว่าถึงเกณฑ์ต้องรายงานหรือไม่
คำถามเหล่านี้อาศัยเอกสารสิบกว่าประเภท ได้แก่ ทะเบียนทรัพย์สินด้าน IT (และทะเบียนโมเดล หากมี) ทะเบียนบุคคลภายนอก หลักเกณฑ์การจัดระดับ ทะเบียนความเสี่ยงหรือ RCSA บันทึกรายการกิจกรรมการประมวลผลและข้อตกลงการประมวลผลข้อมูลส่วนบุคคล ผลการทบทวนสิทธิ์การเข้าถึงและระบบจัดเก็บข้อมูลลับ บันทึกการเปลี่ยนแปลง BIA BCP และบันทึกผลการทดสอบแผนกู้คืนระบบ IT บันทึกเหตุการณ์ และบันทึกข้อร้องเรียน ในจำนวนนี้มีสองประเภทที่จัดเก็บนอกฝ่าย IT คือบันทึกรายการกิจกรรมการประมวลผลและบันทึกข้อร้องเรียน คำตอบจึงไม่ได้มาจากทีมของ CIO ทั้งหมด ข้อ 2 และ 3 ตอบจากการตั้งค่าและรายงานแทนทะเบียน หลักฐานจึงหนักแน่นน้อยกว่าทะเบียนหนึ่งขั้น แต่ก็ยังมีวันที่กำกับ องค์กรจึงไม่ต้องสร้างกรอบการทำงานใหม่ เพียงทำให้เอกสารแต่ละฉบับบันทึก AI ไว้ด้วย ตารางถัดจากภาพแสดงเอกสารสามประเภทที่เกณฑ์รายภาคกล่าวถึงบ่อยที่สุด และระบุว่าเกณฑ์ใดกำหนดเอกสารแต่ละประเภทไว้ สำหรับธนาคาร บริษัทประกันชีวิต และหน่วยงานโครงสร้างพื้นฐานสำคัญทางสารสนเทศ
| เอกสาร | ธนาคาร (ธปท.) | บริษัทประกันชีวิต (คปภ.) | โครงสร้างพื้นฐานสำคัญทางสารสนเทศ (ประมวลแนวทางปฏิบัติของ สกมช.) |
|---|---|---|---|
| ทะเบียนทรัพย์สินด้าน IT | ประกาศเรื่องความเสี่ยงด้าน IT เอกสารแนบ 2 ข้อ 1 | ประกาศเรื่องความเสี่ยงด้าน IT พ.ศ. 2563 ข้อ 16 (1) | ทะเบียนทรัพย์สิน รวมถึงการขึ้นต่อกันของทรัพย์สิน 21.1.1 และ 21.1.1 (ฉ) |
| ผู้ให้บริการภายนอก | แนวปฏิบัติ TPRM ข้อ 7.1 และ 7.4 | การคัดเลือกผู้ให้บริการ สัญญา และการติดตาม ข้อ 23 | ความรับผิดชอบยังอยู่ที่องค์กรแม้จะจ้างบุคคลภายนอกดำเนินงาน 21.4.1 ถึง 21.4.2 |
| แผนรองรับความต่อเนื่อง | เอกสารแนบ 2 ข้อ 10.4 และ 10.5.9 | แผนรองรับความต่อเนื่องด้าน IT และแผนกู้คืนระบบที่ทดสอบอย่างน้อยปีละครั้ง ข้อ 25 | BCP ที่รวมการทบทวนแผนของผู้ให้บริการภายนอก ซ้อมอย่างน้อยปีละครั้ง 25.1.1 ถึง 25.1.2 |
เรายังไม่ได้อ่านประกาศฉบับสำหรับบริษัทประกันวินาศภัย ซึ่งมีรายงานว่าใช้โครงสร้างเดียวกัน ส่วนประมวลแนวทางปฏิบัติของ สกมช. มีผลผูกพันหน่วยงานของรัฐและหน่วยงานโครงสร้างพื้นฐานสำคัญทางสารสนเทศเฉพาะในส่วนของบริการที่สำคัญซึ่งได้รับการกำหนดไว้เท่านั้น
สังเกตว่าไม่มีคำถามข้อใดถามว่าองค์กรมีนโยบาย AI หรือไม่ นโยบายเป็นสิ่งที่ควรมี และแนวทางด้าน AI ของผู้กำกับดูแลรายภาคก็คาดหวังให้มี เช่น แนวนโยบาย AI ของ ธปท. (ส่วนที่ 1 (1.1)) แต่นโยบายเป็นเอกสาร ซึ่งอยู่ขั้นที่สองของบันได เมื่อคณะกรรมการมีนโยบายอยู่ในมือแล้ว สิ่งที่ต้องรู้ต่อคือทะเบียนสะท้อนนโยบายนั้นหรือไม่
หลักฐานที่แพลตฟอร์ม AI ควรทิ้งไว้เองเป็นอีกเรื่องหนึ่ง อ่านต่อได้ที่ คุณบอกว่า AI มี Governance อีกหกเดือน แสดงให้ดูได้ไหม
คำถามห้าข้อนี้ไม่ใช่คำถามสำหรับคณะกรรมการข้างต้น แต่เป็นคำถามแบบใช่หรือไม่ใช่ที่ท่านตอบเองจากสิ่งที่ทราบอยู่ในวันนี้ เพื่อดูคร่าว ๆ ว่าองค์กรอยู่ตรงไหนก่อนที่คณะกรรมการจะขอตัวเลข และใช้ตัวอักษร ก ถึง จ แทนตัวเลข เพื่อไม่ให้สับสนกับคำถามข้อ 1 ถึง 10
แบบสอบถามนี้ไม่มีคะแนน เมื่อตอบครบแล้ว ท่านจะเห็นเพียงคำอธิบายว่าคำตอบในลักษณะเดียวกับของท่านมักสะท้อนอะไร เราไม่เก็บคำตอบของท่าน เว้นแต่ท่านเลือกส่งให้เราเอง
ก. กรณีการใช้งาน AI ที่สำคัญแต่ไม่มีอยู่ในทะเบียนความเสี่ยง ย่อมอยู่นอกการบริหารความเสี่ยงที่คณะกรรมการอาศัยในการกำกับดูแล และไม่มีใครมีอำนาจสั่งหยุดใช้
ก. องค์กรมีหลักฐานข้อนี้แล้ว ควรตรวจต่อว่ารายการเหล่านี้ในทะเบียนความเสี่ยงได้รับการทบทวนในรอบเดียวกับความเสี่ยงอื่น
ข. ข้อนี้เป็นฐานของอีกสี่ข้อ ฟังก์ชัน AI ที่เปิดใช้อยู่ในซอฟต์แวร์ที่มีสิทธิ์ใช้งาน คือส่วนที่ทะเบียนส่วนใหญ่ตกหล่น บทถัดไปอธิบายว่าทะเบียน AI ควรมีอะไรบ้าง
ข. องค์กรมีหลักฐานข้อนี้แล้ว ควรตรวจต่อว่าทะเบียนรวมฟังก์ชัน AI ที่เปิดใช้อยู่ในซอฟต์แวร์ที่มีสิทธิ์ใช้งานด้วย เพราะเป็นส่วนที่ทะเบียนส่วนใหญ่ตกหล่น
ค. หากองค์กรมองไม่เห็นว่ากระบวนการใดใช้ผู้ให้บริการ คลาวด์ หรือ region เดียวกัน ทางเลือกสำรองอาจล้มเหลวไปพร้อมกับบริการที่ตั้งใจปกป้อง
ค. องค์กรมีหลักฐานข้อนี้แล้ว ควรตรวจต่อว่าทางเลือกสำรองไม่ได้ใช้ผู้ให้บริการ คลาวด์ หรือ region เดียวกับบริการที่ตั้งใจปกป้อง
ง. แผนที่เขียนว่า "กลับไปทำแบบ manual" แต่ไม่มีคู่มือที่เคยซ้อม ยังไม่ใช่แผนที่ใช้งานได้จริง
ง. องค์กรมีหลักฐานข้อนี้แล้ว ควรตรวจต่อว่าซ้อมครั้งล่าสุดเมื่อใด การทำงานแบบ manual ที่ไม่ได้ซ้อมมาทั้งปีอาจใช้ไม่ได้ในวันที่ต้องใช้จริง
จ. พ.ร.บ.คุ้มครองข้อมูลส่วนบุคคล ใช้บังคับอยู่แล้วกับข้อมูลส่วนบุคคลที่ส่งไปถึงบริการ AI ไม่ว่าองค์กรจะอยู่ในอุตสาหกรรมใด และบันทึกรายการกิจกรรมการประมวลผลข้อมูลส่วนบุคคลคือที่แรกที่ DPO จะเปิดดู
จ. องค์กรมีหลักฐานข้อนี้แล้ว ควรตรวจต่อว่าบันทึกระบุว่าข้อมูลถูกประมวลผลที่ใด และผู้ให้บริการนำข้อมูลไปฝึกโมเดลได้หรือไม่
องค์กรมีหลักฐานครบทั้งห้าข้อ ขั้นต่อไปที่มีประโยชน์คือตรวจว่าหลักฐานเหล่านั้นสอดคล้องกัน เช่น กระบวนการใน BCP เป็นกระบวนการเดียวกับในทะเบียน ใช้ผู้ให้บริการรายเดียวกัน และมีเจ้าของคนเดียวกัน องค์กรที่วางพื้นฐานไว้แล้วมักพบช่องว่างที่จุดนี้
คำตอบบางข้อของคุณคือ "ไม่ทราบ" ซึ่งไม่ใช่ผลที่แย่ แต่หมายความว่าข้อมูลนั้นมีอยู่ที่ใดที่หนึ่งในองค์กร เพียงแต่ยังไม่อยู่ในหลักฐานที่ใครก็เปิดดูได้ การหาว่าใครตอบเรื่องนี้ได้คือก้าวแรกที่ดี และมักใช้เวลาไม่นาน
คำตอบของคุณแสดงให้เห็นว่าการบริหารความเสี่ยงที่มีอยู่ครอบคลุม AI แล้วในส่วนใด และยังไม่ครอบคลุมในส่วนใด ช่องว่างลักษณะนี้มักปิดได้ด้วยการเพิ่ม AI ลงในเอกสารและทะเบียนที่องค์กรมีอยู่แล้ว โดยไม่ต้องสร้างสิ่งใหม่ คำถามสำหรับคณะกรรมการด้านบนแสดงว่าทะเบียนใดตอบคำถามใด
ผลนี้เป็นเพียงการอ่านจากคำตอบของคุณเอง ไม่ใช่การประเมิน และเราไม่เห็นคำตอบของคุณ
คุยกับเราเรื่องคำตอบของคุณ →อ่านเพิ่มเติมเรื่อง ความพร้อมด้านการบริหารความเสี่ยง AI →
คำถามเหล่านี้ตรวจว่าเอกสารมีอยู่และครบถ้วนหรือไม่ แต่ไม่ได้ตรวจว่าการควบคุมที่อยู่เบื้องหลังเอกสารใช้ได้ผลจริงหรือไม่ รายการในทะเบียนอาจเป็นปัจจุบัน แต่การทดสอบการสลับไปใช้ทางเลือกสำรองที่บันทึกไว้ในรายการนั้นอาจออกแบบมาไม่ดีก็ได้ คำถามเหล่านี้ไม่ได้ตรวจความเป็นธรรมหรือคุณภาพของผลลัพธ์ AI โดยตรงด้วย ตรวจเพียงว่าเมื่อเกิดความเสียหาย มีการตรวจพบและบันทึกไว้หรือไม่ ความเป็นธรรมและคุณภาพของผลลัพธ์จึงต้องทบทวนแยกต่างหาก
ตัวอย่างภาคธนาคารอ้างเอกสารของ ธปท. ส่วนตารางอ้างเอกสารของภาคประกันภัยและภาคโครงสร้างพื้นฐานสำคัญทางสารสนเทศที่เราได้อ่านแล้วด้วย ภาคธุรกิจอื่นจะโยงคำถามชุดเดียวกันนี้เข้ากับเกณฑ์ของตนเอง และหากไม่มีเกณฑ์ใดระบุเอกสารไว้ ก็โยงเข้ากับเอกสารที่องค์กรจัดทำไว้อยู่แล้วตามปกติ หากฝ่ายกำกับดูแลการปฏิบัติตามกฎเกณฑ์ (Compliance) ขององค์กรตีความเอกสารฉบับใดต่างจากนี้ ให้ยึดการตีความของฝ่ายนั้นสำหรับองค์กรของท่าน
คณะกรรมการกำกับดูแลความเสี่ยงด้าน AI ได้โดยไม่ต้องเข้าใจการทำงานของโมเดลภาษาขนาดใหญ่ ขอเพียงมีตัวเลขไม่กี่ตัว และมีวินัยพอที่จะขอตัวเลขชุดเดิมอีกครั้งในไตรมาสถัดไป
ในครั้งแรก ตัวเลขส่วนใหญ่จะหายาก นั่นไม่ใช่ความล้มเหลวของคณะกรรมการหรือฝ่ายบริหาร แต่บอกได้ชัดว่าเอกสารเริ่มตกหล่น AI ตรงจุดใด บทถัดไปอธิบายว่าทะเบียน AI ควรมีข้อมูลอะไรบ้าง เพื่อให้ตัวเลขเหล่านี้หาได้ง่าย
เอกสารที่บทนี้อ้างถึง ตามที่ผู้กำกับดูแลแต่ละแห่งเผยแพร่ ณ วันที่เผยแพร่บทความนี้ หากถ้อยคำในบทความนี้ต่างจากต้นฉบับ ให้ยึดต้นฉบับ
บทความนี้เป็นข้อมูลทั่วไปเกี่ยวกับเอกสารของผู้กำกับดูแลตามที่เผยแพร่ ณ วันที่ตรวจทานที่ระบุไว้ ไม่ใช่คำแนะนำทางกฎหมาย การกำกับดูแล หรือการปฏิบัติตามกฎเกณฑ์ และการอ่านบทความนี้ไม่ก่อให้เกิดความสัมพันธ์ระหว่างที่ปรึกษากับลูกค้า แต่ละองค์กรต้องอ่านเอกสารต้นฉบับและวินิจฉัยการนำไปใช้ร่วมกับฝ่ายกำกับดูแลการปฏิบัติตามกฎเกณฑ์และที่ปรึกษาของตน INFOZENSE ไม่รับผิดชอบต่อการตัดสินใจใด ๆ ที่อาศัยบทความนี้
