Knowledge Engineering · Operational

คุณบอกว่า AI มี Governance อีกหกเดือน แสดงให้ดูได้ไหม

การบอกว่า AI ของคุณมี Governance นั้น พูดวันนี้ง่ายเสมอ สิ่งที่ยากกว่ามาทีหลังเมื่อ มีคนมาถามว่ามันทำอะไรไปบ้างเมื่อเดือนมีนาคม และเขาขอหลักฐาน ไม่ใช่คำรับรอง ทำไมถึงเป็นแบบนั้น? เพราะ Log ที่ผู้ดูแลระบบแก้ไขได้เงียบ ๆ ไม่ใช่หลักฐาน แต่เป็นเรื่องเล่า

Infozense Knowledge Engineering · ถ้าคุณถือข้อมูลพนักงานหรือข้อมูลลูกค้า · ~6 นาที

นี่คือบท Operational ของชุดบทความ Infozense Knowledge Engineering เลเยอร์ข้อมูลที่อยู่ใต้ Agent ของคุณมี Gate อยู่ห้าตัว: Input (ใครมีสิทธิ์ถาม) · Egress (อะไรออกไปได้) · Output (ปลอดภัยและเป็นจริง) · Action (ใครอนุมัติ) · Operational (พิสูจน์ได้ภายหลัง) บทความนี้ว่าด้วยตัวที่ห้า: Operational ซึ่งเป็น Gate ที่ตัดสินว่าอีกสี่ตัวที่เหลือ คุณยังแสดงให้ใครดูได้อยู่หรือไม่เมื่อเวลาผ่านไปแล้ว

เมื่อยังไม่มีเลเยอร์ข้อมูลที่มี Governance วันนี้คุณบอกว่า AI ของคุณมี Governance จากนั้นอีกหกเดือนต่อมา มีคนถามว่ามันทำอะไรไปบ้างเมื่อเดือนมีนาคม สิ่งที่อยู่ระหว่างสองเหตุการณ์นั้นคือ Log ที่ผู้ดูแลระบบแก้ไขได้ คำรับรองของคุณกับความซื่อสัตย์ของผู้ดูแลระบบจึงเป็นคำกล่าวอ้างเดียวกัน
คำรับรองของคุณกับความซื่อสัตย์ของผู้ดูแลระบบเป็นคำกล่าวอ้างเดียวกัน และผู้ตรวจสอบจะไม่ยอมรับ เพราะต้องการหลักฐานยืนยัน

บทสนทนาเรื่อง Governance ที่คุณกำลังคุยอยู่ตอนนี้ คือสิ่งที่ง่าย

บทสนทนาที่ยากกว่าเกิดขึ้นทีหลัง และดำเนินไปคนละแบบ หากมีคนถามว่า AI ของคุณทำอะไรไปบ้างเมื่อเดือนมีนาคม เขาไม่ได้อยากได้นโยบายของคุณ เขาอยากให้คุณแสดงให้ดู

Who this is for

ถ้าจะไม่มีใครขอให้คุณแสดงว่า AI ของคุณทำอะไรไปบ้าง นี่ไม่ใช่ปัญหาของคุณ องค์กรจำนวนไม่น้อยอยู่ในสถานะนั้นจริง ๆ และไม่ควรเสียเงินกับเรื่องนี้

คุณมีปัญหานี้ถ้าคุณอยู่ภายใต้การกำกับดูแล ถ้าคุณถือข้อมูลส่วนบุคคลของคนอื่น ถ้าคุณกำลังจะถูกซื้อกิจการ หรือถ้าคุณมีลูกค้ารายใหญ่ที่ผู้ตรวจสอบของเขาจะไล่ลงมาถึงคุณในสักวัน ไม่ว่ากรณีไหน วันหนึ่งจะมีคนที่คุณเลี่ยงไม่ได้ มาถามถึงสิ่งที่ผ่านไปแล้ว และคำตอบของคุณต้องเป็นหลักฐาน ไม่ใช่ความทรงจำ

คนคนนี้ไม่ได้มาโจมตีคุณ ตามปกติเขาแค่ทำงานของเขา และรับคำตอบที่ดีได้ทันทีที่ได้ยิน ในเรื่องนี้ สิ่งที่ทำให้คุณเสียหายแทบไม่เคยเป็นการถูกจับได้ว่าทำผิด แต่เป็นการที่คุณแสดงไม่ได้ว่าทำถูก

A log is not a record

ระบบส่วนใหญ่มี Log แต่ระบบที่มีบันทึกจริง ๆ มีน้อยมาก และความต่างตรงนี้คือสาระทั้งหมดของเรื่อง

Log คือของเหลือจากการทำงานของระบบ มันมีไว้ให้ผู้ดูแลระบบไล่หาปัญหา มันมักเป็นสิ่งแรกที่ถูกตัดทิ้งเมื่อค่าพื้นที่จัดเก็บแพงขึ้น และที่สำคัญที่สุด คนที่ดูแลระบบแก้ไขมันได้ โดยปกติไม่ได้เกิดจากเจตนาร้าย แต่เกิดจากนโยบายการเก็บรักษาข้อมูล การทำ Index ใหม่ Script ที่เขียนมาเพื่อล้างข้อมูล หรือการย้ายระบบที่ทิ้ง Field ซึ่งไม่มีใครใช้

บันทึกเป็นคนละอย่าง บันทึกคือสิ่งที่ยังเหลืออยู่ เมื่อคนที่ดูแลระบบไม่ได้รับความไว้วางใจให้เป็นส่วนหนึ่งของคำตอบ

รายการที่เข้ามาอยู่ในบันทึกมีสองแบบ และทั้งสองไม่ใช่เรื่องเดียวกัน

  • Data Plane คือสิ่งที่ AI ของคุณทำ ทุกคำถามที่มันตอบ และทุกคำถามที่มันปฏิเสธ
  • Control Plane คือสิ่งที่มีคนทำกับ AI ของคุณ ทุกการเปลี่ยนที่ทำกับกลไกเบื้องหลัง ไม่ว่าจะเป็นโมเดลที่ใช้ตอบ ระดับความลับที่อนุญาตให้โมเดลรับได้ หรือนโยบายที่ตัดสินว่าจะดึงอะไรขึ้นมา

รายการทั้งสองแบบนี้อยู่ในบันทึกชุดเดียว เพราะทั้งคู่คือสิ่งที่วันหนึ่งจะมีคนขอให้คุณแสดงให้ดู

สองคอลัมน์ ตามรายการสองแบบที่อยู่ในบันทึก คอลัมน์ซ้าย Data Plane คือสิ่งที่ AI ของคุณทำ ได้แก่ คำถามที่ได้รับคำตอบ พร้อมเอกสารที่คำถามนั้นไปถึง คำถามที่ถูกปฏิเสธ พร้อมเหตุผลของการปฏิเสธนั้น และคำตอบที่ถูกหยุดไว้เพราะแหล่งที่มาไม่ได้รองรับสิ่งที่จะตอบ คอลัมน์ขวา Control Plane คือสิ่งที่มีคนทำกับ AI ของคุณ ได้แก่ การเปลี่ยนโมเดลที่ใช้ตอบ การยกเพดานระดับความลับที่อนุญาตให้โมเดลภายนอกรับได้ การแก้นโยบายที่ตัดสินว่าจะดึงอะไรขึ้นมา และการกำหนด Classification ของเอกสารชุดหนึ่งใหม่ ทั้งสองแบบเข้าไปอยู่ในบันทึกชุดเดียว ผนึกในเดือนเดียวกัน และล็อกอยู่ในสำเนาฉบับเดียวกัน

ผู้ตรวจสอบมักไม่ได้ถามว่า AI ของคุณทำถูกหรือไม่เมื่อเดือนมีนาคม คำถามจริง ๆ ของเขาคือ คุณผิดเรื่องเดือนนั้นได้หรือเปล่าโดยที่ไม่มีใครรู้ ถ้าเรื่องราวของเดือนมีนาคมมีอยู่ชุดเดียว และผู้ดูแลระบบของคุณแก้ไขชุดนั้นได้ คำรับรองของคุณกับความซื่อสัตย์ของผู้ดูแลระบบก็เป็นคำกล่าวอ้างเดียวกัน และผู้ตรวจสอบจะไม่ยอมรับแบบนั้น เพราะงานแบบนี้ทำด้วยความไว้วางใจไม่ได้ ต้องมีหลักฐานยืนยัน

ลองทดสอบง่าย ๆ คุยกันครั้งเดียวก็พอ ขอให้คนที่ดูแลระบบ AI ของคุณ ลบข้อมูลของเดือนมีนาคมที่ผ่านมาหนึ่งรายการ ไม่ใช่เพื่อจับผิดใคร แต่เพื่อทดลองดู ถ้าเขาทำได้ สิ่งที่คุณมีคือ Log ถ้าระบบไม่ยอม สิ่งที่คุณมีคือบันทึก

Two layers, and the first one is not enough

ตัวอย่างห้ารายการจากบันทึก ตามรูปแบบที่ถูกเขียนลงไปจริง สองรายการเป็นคำถามที่ได้รับคำตอบ และระบุชื่อเอกสารที่แต่ละคำถามไปถึง อีกสองรายการถูกปฏิเสธ รายการแรกถูกปฏิเสธเพราะคนถามไม่มีสิทธิ์เข้าถึงเอกสารนั้น อีกรายการหนึ่งถูกปฏิเสธเพราะโมเดลภายนอกไม่ได้รับอนุญาตให้รับเนื้อหานั้น รายการที่ห้าไม่ใช่คำถาม แต่เป็นการเปลี่ยนที่ทำกับกลไกเบื้องหลัง นั่นคือการยกเพดานระดับความลับของโมเดลภายนอกตัวหนึ่งขึ้น พร้อมชื่อคนที่สองซึ่งอนุมัติการเปลี่ยนนั้น รายการที่ถูกปฏิเสธจะถูกเก็บไว้เคียงข้างรายการที่สำเร็จ จากนั้นเดือนนั้นปิดตัวลงและกลายเป็นอ่านได้อย่างเดียว ซึ่งหยุดการแก้ย้อนหลังและ Script ที่เขียนมาเพื่อล้างข้อมูล แต่สถานะนี้ถูกปลดได้โดยใครก็ตามที่ดูแลฐานข้อมูลซึ่งเก็บประวัตินั้นไว้ สำเนาของแต่ละเดือนที่ปิดแล้วถูกเขียนลง Object Storage ภายใต้ Retention Lock ผู้ดูแลระบบหรือ root ลบสำเนานั้นออกไม่ได้ จนกว่าจะพ้นวันสิ้นสุดการเก็บรักษา
ชั้นหนึ่งหยุดอุบัติเหตุ อีกชั้นหนึ่งรอดพ้นตัวผู้ดูแลระบบ

เลเยอร์ข้อมูลที่มี Governance จึงเก็บประวัติไว้สองรูปแบบ และความต่างระหว่างสองรูปแบบนั้นคือประเด็น

ชั้นแรกคือการผนึก ประวัติของแต่ละเดือนจะปิดตัวลงและกลายเป็นอ่านได้อย่างเดียวทันทีที่เดือนถัดไปเริ่มต้น ไม่มีอะไรเขียนเพิ่มเข้าไปในช่วงเวลาที่ปิดแล้วได้อีก อุบัติเหตุตามปกติจึงหยุดลง ไม่มีการแก้ย้อนหลัง ไม่มีการเติมข้อมูลกลับ ไม่มี Script ที่แอบเขียนทับไตรมาสที่แล้ว

นั่นมีประโยชน์จริง และยังไม่พอ การนำเสนอมันให้ดูมากกว่าที่มันเป็นก็เท่ากับไม่ซื่อสัตย์ การผนึกแบบนี้ถูกปลดได้โดยใครก็ตามที่ดูแลฐานข้อมูลซึ่งเก็บประวัตินั้นไว้ มันป้องกันอุบัติเหตุและความคลาดเคลื่อนที่ค่อย ๆ สะสม ซึ่งเป็นเรื่องส่วนใหญ่ที่ผิดพลาดกันจริง ๆ แต่มันไม่ได้ป้องกันคนเพียงคนเดียวที่ผู้ตรวจสอบมีหน้าที่ต้องคิดเผื่อไว้เสมอ นั่นคือผู้ดูแลระบบ

จึงมีชั้นที่สอง สำเนาของแต่ละช่วงเวลาที่ผนึกแล้วถูกเขียนลง Object Storage ภายใต้ Retention Lock เมื่อเขียนลงไปแล้ว จะไม่มีใครลบหรือแก้ไขสำเนานั้นได้ จนกว่าจะพ้นวันสิ้นสุดการเก็บรักษา ผู้ดูแลระบบก็ทำไม่ได้ root ก็ทำไม่ได้ ระบบจัดเก็บเองเป็นฝ่ายปฏิเสธ และคนของคุณไม่มีอำนาจอยู่ตรงนั้น

นั่นคือเวอร์ชันที่ตอบคำถามได้ ไม่ใช่ “Log ของเราแสดงว่า” แต่เป็น “นี่คือสำเนาที่ทั้งตัวเราเองและใครก็ตามในบริษัทเราแก้ไขไม่ได้ และนี่คือวันที่ ซึ่งก่อนถึงวันนั้นไม่มีใครลบมันได้”

มีคำถามหนึ่งที่ควรถามผู้ขายทุกราย รวมถึงเราด้วย ถามว่าบันทึกแก้ไขไม่ได้ตั้งแต่เมื่อไหร่ ตั้งแต่วินาทีที่เหตุการณ์เกิดขึ้น ตั้งแต่สิ้นชั่วโมงนั้น หรือตั้งแต่สิ้นเดือน ช่องว่างระหว่างคำตอบนั้นกับตัวเหตุการณ์ คือช่วงเวลาที่ผู้ดูแลระบบยังแก้ไขบันทึกได้ ณ วันนี้ คำตอบของเราคือสิ้นเดือน และเราจะปรับตรงนั้นเป็นลำดับถัดไป

The system refuses to pretend

มีรายละเอียดหนึ่งที่สำคัญ และเป็นสิ่งที่ควรมองหาเวลาประเมินผลิตภัณฑ์ของใครก็ตาม

Retention Lock เปิดใช้ได้เฉพาะตอนสร้าง Bucket สำหรับจัดเก็บครั้งแรกเท่านั้น คุณเปิดมันทีหลังไม่ได้ ระบบที่ถูกสั่งให้ปกป้อง Bucket ซึ่งไม่มีการตั้งค่านั้น จึงมีทางเลือกสองทาง คือเดินหน้าไปเงียบ ๆ แล้วปล่อยให้ทุกคนเชื่อว่าประวัติได้รับการปกป้องอยู่ หรือปฏิเสธแล้วบอกออกมาตรง ๆ

เลเยอร์ข้อมูลที่มี Governance เลือกปฏิเสธ มันคืนค่าข้อผิดพลาดออกมา แทนที่จะเสแสร้งว่า Bucket ได้รับการปกป้องทั้งที่ไม่ได้เป็นเช่นนั้น

ความต่างตรงนี้ฟังดูเล็กแต่ไม่เล็ก ความล้มเหลวที่อันตรายในเครื่องมือด้าน Governance ไม่เคยเป็นตัวควบคุมที่เห็นชัด ๆ ว่าไม่ทำงาน แต่เป็นตัวควบคุมที่ดูเหมือนทำงาน ถูกรายงานว่าเป็นสีเขียว แล้วมาพบว่ามันไม่เคยทำงานเลยในวันที่มีคนขอให้คุณแสดงมันจริง ๆ ระบบที่ยอมล้มเหลวเสียงดังมากกว่าจะรายงานการปกป้องที่ตัวเองไม่มี กำลังบอกอะไรบางอย่างกับคุณเกี่ยวกับวิธีที่ส่วนที่เหลือของมันถูกสร้างขึ้นมา

Record what was refused

ยังมีคุณสมบัติอีกข้อหนึ่ง และเป็นข้อที่คนทำพลาดกันเวลาสร้างระบบนี้ขึ้นมาเอง

รายการที่น่าสนใจคือการปฏิเสธ คำถามที่ถูกปฏิเสธเพราะคนถามไม่มีสิทธิ์เข้าถึงเอกสารที่ต้องใช้ตอบ คำตอบที่ถูกหยุดไว้เพราะแหล่งที่มาไม่ได้รองรับสิ่งที่จะตอบ โมเดลภายนอกที่ไม่ได้รับอนุญาตให้รับเนื้อหานั้นไป ทั้งหมดนี้ไม่ใช่ข้อผิดพลาดที่ควรทิ้งไป แต่เป็นหลักฐานว่าตัวควบคุมยังทำงานอยู่จริง และกำลังทำอะไรบางอย่าง

Log ของ Web Server บอกได้ว่ามีคนถูกปฏิเสธเมื่อเวลา 09:20 แต่บอกไม่ได้ว่าเขากำลังพยายามเข้าถึงอะไร บันทึกชุดนี้บอกได้ เพราะก่อนจะถึงการปฏิเสธนั้น เลเยอร์ได้ทำงานมาแล้วเป็นลำดับ: อ่านคำถาม หาเอกสารที่ใช้ตอบได้ ตามการอ้างอิงที่อยู่ในเอกสารเหล่านั้นออกไปยังฉบับที่ถูกอ้างถึง แล้วตรวจแต่ละฉบับเทียบกับสิทธิ์เข้าถึงของคนถาม เหตุผลที่แนบมากับการปฏิเสธจึงเป็นผลพลอยได้จากงานที่ทำเพื่อหาคำตอบที่ดีอยู่แล้วตั้งแต่ต้น ระบบที่ทำได้แค่เก็บและค้นข้อความ ไม่มีอะไรให้บันทึกไว้นอกจาก Status Code หนึ่งตัว

ประวัติที่มีแต่รายการที่สำเร็จ พิสูจน์ได้แค่ว่ามีเรื่องเกิดขึ้น ประวัติที่มีรายการที่ถูกปฏิเสธอยู่ด้วย พิสูจน์ว่ามีการบังคับใช้กติกาอยู่จริง

และนั่นคือหน้าตาของความพยายามเข้าถึงด้วย ถ้ามีใครสักคนมาลองหยั่งเชิง AI ของคุณ บันทึกของการหยั่งเชิงครั้งนั้นจะมีอยู่ก็ต่อเมื่อคุณตัดสินใจไว้ล่วงหน้าแล้วว่าจะเก็บรายการที่ล้มเหลวเอาไว้

The bottom line

Governance ที่คุณแสดงให้ใครดูไม่ได้ ก็คือ Governance ที่คุณไม่มี ไม่ใช่เพราะมันปลอม แต่เพราะคนเดียวที่มันโน้มน้าวได้คือตัวคุณเอง และคุณไม่ใช่คนที่กำลังถาม

คำถามไม่ใช่ว่ากติกาของคุณดีหรือไม่ แต่คือเมื่อเวลาผ่านไปหลายเดือน คนที่สร้างมันไปกันหมดแล้ว และการประชุมครั้งนั้นถูกลืมไปแล้ว ยังมีเรื่องราวของสิ่งที่เกิดขึ้นซึ่งไม่ต้องพึ่งคำพูดของใครเลยอยู่หรือไม่ เรื่องราวนั้นมีอยู่หรือไม่มี และวันที่คุณต้องใช้มันคือวันที่ผิดที่จะมารู้คำตอบ

You don't build this. You configure it.

คุณไม่ต้องสร้างที่เก็บประวัติซึ่งตรวจได้ว่าถูกแก้ไขหรือไม่ และไม่ต้องเขียนกระบวนการเก็บรักษาข้อมูลขึ้นมาเอง Infozense Knowledge Engineering ส่งมอบเลเยอร์ข้อมูลที่มี Governance พร้อม Gate ตัว Operational ที่ติดตั้งไว้ให้แล้ว: ทุกคำถามที่ AI ของคุณตอบ และทุกคำถามที่มันปฏิเสธ ถูกเขียนลงบันทึกทันทีที่เกิดขึ้น และการเปลี่ยนโมเดล กติกาเรื่องระดับความลับ หรือนโยบายการดึงข้อมูล ก็ถูกบันทึกไว้ทุกครั้งเช่นกัน แต่ละเดือนปิดตัวลงและกลายเป็นอ่านได้อย่างเดียว สำเนาของทุกช่วงเวลาที่ปิดแล้วถูกส่งไปเก็บใน Object Storage ที่ล็อกไว้ ตามรอบเวลาที่คุณกำหนด รายการที่ถูกปฏิเสธจะถูกเก็บไว้เคียงข้างรายการที่สำเร็จ และถ้า Bucket ที่คุณตั้งไว้ใช้ Retention Lock ไม่ได้จริง ระบบจะบอกคุณตรง ๆ

คุณเป็นคนกำหนดระยะเวลาเก็บรักษาและปลายทาง หลังจากนั้น คำตอบของคำถามที่ว่า “ขอดูเดือนมีนาคม” คือไฟล์หนึ่งไฟล์ ไม่ใช่การนัดประชุม

ไฟล์ที่ว่าคือข้อมูลทั้งเดือนที่บีบอัดไว้ หนึ่งเดือนต่อหนึ่งไฟล์ ขนาดไม่กี่สิบเมกะไบต์สำหรับระบบที่ใช้งานหนัก ข้างในมีทุกคำตอบและทุกการปฏิเสธของเดือนนั้น และ Object Storage จะไม่ยอมปล่อยให้ลบมัน จนกว่าจะถึงวันสิ้นสุดการเก็บรักษาที่คุณกำหนดไว้

audit-2026.03.ndjson.gz    18.4 MB    ส่งเมื่อ 2026-04-01    ล็อกถึง 2033-04-01
ไฟล์เดียว คือเดือนมีนาคม 2026 ที่ปิดแล้ว ถูกเขียนลง Object Storage เมื่อวันที่ 1 เมษายน ภายใต้ Retention Lock ที่มีผลถึงปี 2033
Infozense Knowledge Engineering

Will someone eventually ask you to demonstrate what your AI did?

นี่คือเรื่องที่เราถนัดที่สุด เพียงนำระบบที่ใช้งานจริงมาหนึ่งชุด แล้วเราจะไล่ดูไปด้วยกันว่าคุณมีอะไรให้เขาดูได้บ้างจริง ๆ

คุยกับเรา →

contact@infozense.com  |  +66-82-242-4008  |  Bangkok, Thailand