Knowledge Engineering · Governance

คุณกำกับ Agent แล้ว แต่ลืมเลเยอร์ข้อมูลที่อยู่ข้างใต้

ทุกโครงการ AI Agent มุ่งความสนใจไปที่สองเรื่อง: วิธีที่ Agent ทำงาน (Orchestration) และสิ่งที่คอยควบคุมมันให้อยู่ในกรอบ (Guardrails) ทั้งสองอย่างคือตัว Agent เอง เป็นส่วนที่คุณมองเห็น ส่วนที่คนมักจะมองข้ามคือเลเยอร์ข้อมูล ที่ที่ความเสี่ยงด้านการกำกับดูแลของคุณอยู่จริง นั่นคือสิ่งที่ Agent เข้าถึงได้ สิ่งที่ออกนอกองค์กรได้ และสิ่งที่คุณพิสูจน์ได้ในอีกหลายเดือนข้างหน้า และแทบไม่มีใครกำกับมันอยู่เลย

Infozense Knowledge Engineering · CIO · CISO · GRC · Head of Data · ~5 นาที

นี่คือบท Governance ของชุดบทความ Infozense Knowledge Engineering เลเยอร์ข้อมูลที่อยู่ใต้ Agent ของคุณมี Gate อยู่ห้าตัว: Input (ใครมีสิทธิ์ถาม) · Egress (อะไรออกไปได้) · Output (ปลอดภัยและเป็นจริง) · Action (ใครอนุมัติ) · Operational (พิสูจน์ได้ภายหลัง) ส่วนที่เหลือของบทความนี้จะพาไล่ดูทีละ Gate

ลองเดินเข้าไปดูโครงการ AI Agent โครงการไหนก็ได้ในวันนี้ แล้วคุณจะพบว่าทุกคนกำลังมองไปทางเดียวกัน

พวกเขากำลังมองที่ตัว Agent การที่มันวางแผนและ Route งานคือส่วนของ Orchestration (เครื่องมืออย่าง LangGraph และ Dify) ส่วนสิ่งที่คอยควบคุมมันให้อยู่ในกรอบคืองาน Guardrail คือการทำให้อยู่ในหัวข้อ และการหยุด Jailbreak งานเหล่านี้เป็นงานจริงที่จำเป็น และมีเครื่องมือให้เลือกมากมาย

แต่ทั้งหมดนั้นเป็นเพียงตัว Agent ทุกคนเฝ้ามันใกล้ชิดเสียจนไม่มีใครมองข้อมูลที่อยู่ข้างใต้เลเยอร์ที่ Agent ยืนอยู่ เลเยอร์นั้นถูกมองข้ามด้วยเหตุผลเชิงโครงสร้างง่าย ๆ คือ มันไม่ใช่ “ตัว Agent” จึงอยู่นอกทุกกรอบที่สร้างมาเพื่อกำกับ Agent Orchestration ตัดสินว่า Agent ทำงานอย่างไร และ Guardrails คอยควบคุมมันให้อยู่ในกรอบ แต่ไม่มีตัวไหนตัดสินว่ามันเข้าถึงอะไรได้ อะไรออกนอกองค์กรได้ หรืออะไรจะถูกบันทึกไว้เป็นหลักฐาน และสิ่งที่หน่วยงานกำกับดูแลตรวจก็คือตรงนั้น ไม่ใช่ถ้อยคำที่โมเดลพูด แต่คือเลเยอร์ข้างใต้

บทความนี้เขียนถึงใคร

องค์กรส่วนใหญ่ไม่จำเป็นต้องมีเลเยอร์ข้อมูลที่มี Governance ถ้า AI ของคุณหาคำตอบจากข้อมูลสาธารณะ ใช้แค่ Guardrail ของโมเดลก็เพียงพอแล้ว คุณหยุดอ่านตรงนี้ได้เลย

ในมือคุณมีข้อมูลที่รั่วไหลไม่ได้ ทั้งเวชระเบียนผู้ป่วย สัญญา และไฟล์ที่อยู่ภายใต้การกำกับ คุณอยากให้ AI ตัวจริงทำงานบนข้อมูลนั้น ไม่ใช่แค่ข้อมูลที่หาได้จากเว็บไซต์สาธารณะ แต่ AI ที่เก่งที่สุดไม่ได้อยู่ในองค์กรของคุณ มันรันอยู่บนคลาวด์ บนคอมพิวเตอร์ที่คุณไม่ได้เป็นเจ้าของ และไม่ว่าคุณจะจัดการเรื่องนี้ด้วยวิธีไหน สุดท้ายก็จะมีคนขอให้คุณพิสูจน์ว่าข้อมูลของคุณไปอยู่ที่ไหน และใครเห็นมันบ้าง นั่นคือตอนที่คุณต้องมีเลเยอร์ข้อมูลที่มี Governance

หากไม่มีเลเยอร์นั้น ทุกคำขอจะกลายเป็นการตัดสินใจเฉพาะหน้า ส่งไปที่ AI บนคลาวด์แล้วคุณได้คำตอบที่ดีที่สุด แต่ถ้ามันมีข้อมูลอ่อนไหวปนไปด้วย ข้อมูลนั้นก็ไปอยู่บนคอมพิวเตอร์ของคนอื่นแล้ว และคุณเอากลับคืนมาไม่ได้ ส่งไปที่ AI บนคอมพิวเตอร์ของคุณเองแล้วไม่มีอะไรรั่ว แต่ถ้ามันเป็นคำขอธรรมดาที่ไม่มีอะไรต้องปิดบัง คุณก็ยอมทิ้งคำตอบที่ดีที่สุดไปโดยไม่มีเหตุผล ดังนั้นทุกคำขอต้องถูกตัดสินก่อนว่ามันจะไปไหน และทุกการตัดสินต้องถูกบันทึกไว้ คุณเขียนแบบนั้นลงในนโยบายได้ แต่ในทางปฏิบัติมันเป็นไปไม่ได้ Agent ส่งคำขอในหนึ่งชั่วโมงมากกว่าที่คนคนเดียวจะตรวจไหวทั้งวัน การตัดสินจึงเกิดขึ้นในไม่กี่วินาทีโดยไม่มีบันทึก หรือไม่ก็ไม่เกิดขึ้นเลย

เลเยอร์ข้อมูลที่มี Governance ย้ายการตัดสินใจนั้นออกจากตัวคน แล้วมอบให้กับตัวข้อมูลแทน ข้อมูลทุกชิ้นของคุณมี Classification ของตัวเอง กำหนดไว้ครั้งเดียวตั้งแต่ตอนที่มันเข้ามา ก่อนที่คำขอจะไปไหน เลเยอร์จะอ่าน Classification นั้นแล้ว Route ตามนั้น: ข้อมูลธรรมดาไปที่ AI ที่เก่งที่สุดบนคลาวด์แบบเต็มกำลัง ส่วนข้อมูลอ่อนไหวไปที่ AI บนคอมพิวเตอร์ของคุณเอง และไม่ออกไปไหนเลย คุณจึงได้คำตอบที่ดีที่สุดเท่าที่ข้อมูลจะเอื้อให้ ทุกครั้ง และไม่มีใครต้องมาตัดสินเรื่องนั้นในตอนนั้น กฎเดียวกันนี้ใช้กับทุกคำขอ และทุกการตัดสินใจ Routing ถูกบันทึกไว้ นั่นคือหนึ่งในห้า Gate ที่เลเยอร์นี้บังคับใช้ และคุณจะได้เห็นครบทั้งห้าด้านล่างนี้

Guardrail เฝ้าดูถ้อยคำ ไม่ใช่ข้อมูล

นี่คือเส้นแบ่งที่มักพร่าเลือนไป

Guardrail อย่าง NeMo Guardrails ของ NVIDIA ห่อหุ้มตัวโมเดลไว้ มันอยู่ระหว่างแอปพลิเคชันของคุณกับโมเดล และคอยตรวจบทสนทนา ทั้ง Prompt ที่ส่งเข้าไป คำตอบที่ออกมา และรูปแบบของ Tool Call ว่าถูกต้องหรือไม่ มันทำงานนั้นได้ดี แต่ทุกสิ่งที่มันกำกับล้วนเป็นถ้อยคำของโมเดลและการเรียกใช้ของโมเดล

มีเลเยอร์ทั้งเลเยอร์ที่อยู่นอกขอบเขตที่ Guardrail ของโมเดลถูกสร้างมาให้ดูแล Guardrail ของโมเดลไม่ได้ตัดสินว่าใครมีสิทธิ์ถาม หรือถามถึงข้อมูลของใคร มันไม่ได้ตัดสินว่าข้อมูล Classification ระดับใดออกนอกองค์กรได้ มันไม่ได้เก็บบันทึก Audit ที่ไม่มีใครแก้ได้ มันไม่ได้บังคับให้มนุษย์อนุมัติการกระทำที่ย้อนกลับไม่ได้ ไม่มีข้อไหนเลยที่เกี่ยวกับถ้อยคำที่โมเดลผลิตออกมา ทุกข้อล้วนเกี่ยวกับตัวข้อมูล ตัวตนของผู้ถาม และบันทึกหลักฐาน

นั่นคือความต่างระหว่าง Guardrail กับ Gate ฝั่ง Guardrail เฝ้าดูถ้อยคำของโมเดล แล้วตัดสินแต่ละข้อความว่าอยู่ในหัวข้อหรือไม่ เป็น Jailbreak หรือไม่ Tool Call มีรูปแบบถูกต้องหรือไม่ ส่วน Gate ไม่ได้ตัดสินที่ตัวข้อความ แต่บังคับใช้กฎตายตัวที่ว่าด้วยตัวข้อมูลและตัวบุคคลที่อยู่เบื้องหลังคำขอ ว่าใครมีสิทธิ์ถาม อะไรออกไปได้ อะไรถูกบันทึกลงหลักฐาน โดยใช้เกณฑ์เดียวกันกับทุกการเข้าถึงข้อมูล ความเสี่ยงด้านการกำกับดูแลขององค์กรคุณอยู่กับ Gate เหล่านั้น และมี Gate อยู่ห้าตัว

Gate ทั้งห้า

A cross-section: a crowd on the roof studies an AI on a pedestal, while five labeled vault gates below govern the data flowing through: Input (who may ask), Egress (what may leave), Output (safe and true), Action (who approves), Operational (prove it later).
Gate ทั้งห้าบนเลเยอร์ข้อมูลที่อยู่ใต้ Agent

Input: ใครได้รับอนุญาตให้ถาม? Agent ตัวเดียวมักให้บริการหลายทีม มันต้องไม่ปล่อยให้ผู้ใช้ฝ่าย HR ดึงข้อมูลของฝ่าย Finance หรือให้ข้อมูลของลูกค้ารายหนึ่งโผล่ในคำตอบของลูกค้าอีกราย Orchestration ทึกทักว่าคนที่ถามมีสิทธิ์อยู่แล้ว แต่ Input Gate ตรวจก่อนว่าใครถาม และถามถึงข้อมูลของใคร ก่อนจะแตะเอกสารแม้แต่ฉบับเดียว

Egress: อะไรได้รับอนุญาตให้ออกไป? วินาทีที่ Agent ของคุณเรียกโมเดลภายนอก ข้อมูลของคุณก็อยู่บนเซิร์ฟเวอร์ของคนอื่นแล้ว Egress Gate อ่าน Classification ของสิ่งที่กำลังจะออกไป แล้วตัดสินว่ามันไปที่ไหนได้ ข้อมูลชั้นความลับอยู่กับโมเดลของคุณเอง ภายในองค์กรของคุณ เฉพาะข้อมูลที่ผ่านการอนุญาตเท่านั้นที่ออกไป และต้องผ่าน Redaction ก่อน นี่คือ Gate ที่หยุดไม่ให้เวชระเบียนผู้ป่วยหรือบันทึกดีลกลายเป็นข้อมูลฝึกโมเดลของคนอื่นไปเงียบ ๆ

Output: ตัวคำตอบเองปลอดภัยและถูกต้องหรือไม่? แม้ข้อมูลไม่เคยออกไปไหน คำตอบก็ยังสร้างความเสียหายได้ มันอาจแสดงชื่อบุคคลที่ควรถูกปกปิด หรืออ้างอิงแหล่งที่ไม่มีอยู่จริง Output Gate ปกปิดสิ่งที่ไม่ควรแสดง และตรวจว่าทุกการอ้างอิงชี้ไปที่ข้อความที่มีอยู่จริง คำตอบจึงรั่วไม่ได้ และกุเรื่องขึ้นมาไม่ได้

Action: ใครอนุมัติ ก่อนที่บางอย่างจะย้อนกลับไม่ได้? การอ่านข้อมูลย้อนกลับได้ แต่การแก้ไขหรือลบย้อนกลับไม่ได้ การดำเนินการที่สำคัญตรงนี้ไม่ใช่เรื่องพิสดารอะไร ไม่ว่าจะเป็นการลบประวัติของใครบางคนอย่างถาวร การลบข้อมูลตามคำขอ “Forget Me” หรือการลบไฟล์เมื่อครบกำหนด Retention แต่ละอย่างเป็นเรื่องถาวร แต่ละอย่างควรรอให้บุคคลที่ระบุชื่อเป็นคนอนุมัติ Action Gate กันการเปลี่ยนแปลงเหล่านี้ไว้จนกว่าจะได้รับการอนุมัติ ไม่มีการกระทำที่ก่อความเสียหายใดๆ เกิดขึ้นได้เอง

Operational: หลายเดือนต่อมา คุณพิสูจน์ได้หรือไม่? เมื่อผู้ตรวจสอบถามว่า Agent ทำอะไรไปเมื่อเดือนมีนาคม “เราคิดว่าไม่มีปัญหา” ไม่ใช่คำตอบ เพื่อให้กิจกรรมทุกอย่างสามารถตรวจสอบได้ Operational Gate จะเก็บบันทึกถาวรของทุกคำขอ ทุกการตัดสินใจ Routing และทุก Action มันอยู่บน Log ที่ไม่มีใครแก้ทีหลังได้ แม้แต่ตัวคุณเอง Governance ที่พิสูจน์ไม่ได้ก็คือ Governance ที่คุณไม่มี

ข้อสรุป

คุณไม่ได้รับ Governance น้อยไปกว่าที่คิด คุณเล็งมันไปที่ตัว Agent ไม่ใช่เลเยอร์ที่อยู่ข้างใต้ Orchestration และ Guardrails ของ Agent กำกับวิธีที่ Agent ทำงานและสิ่งที่มันพูด เก็บมันไว้ คุณจำเป็นต้องใช้ ส่วน Gate ทั้งห้ากำกับสิ่งที่มันเข้าถึง ส่งออก และพิสูจน์ได้ อย่างแรกคุมให้ Agent อยู่ในกรอบ อย่างหลังปกป้ององค์กรของคุณ เหตุที่ยังไม่มีใครขายส่วนหลังให้คุณ ก็เพราะทุกคนมัวยุ่งอยู่กับส่วนแรก

คุณไม่ได้สร้างมัน คุณแค่ตั้งค่ามัน

Gate ทั้งห้าอาจฟังดูเหมือนต้องใช้เวลาในการสร้างทั้งปี แต่ไม่ใช่ เพราะคุณไม่ได้เป็นคนสร้างมัน Infozense Knowledge Engineering ส่งมอบเลเยอร์ที่มี Governance พร้อม Gate ครบทั้งห้าตั้งแต่ต้น: ใครถามได้ อะไรออกได้ อะไรถูกแสดง อะไรต้องขออนุมัติ และอะไรถูกบันทึก คุณเพียงกำหนดนโยบายของแต่ละ Gate ให้เข้ากับข้อมูลและกฎของคุณ แล้วเลเยอร์ก็บังคับใช้มันตั้งแต่คำขอแรก คุณแค่ตั้งค่า Gate ส่วนระบบเบื้องหลังทั้งหมดวางไว้ให้แล้ว

นั่นคือการเริ่มต้นที่ได้เปรียบจริง: มี Governance ตั้งแต่วันแรก ไม่ใช่ตอนจบของโปรเจกต์ที่คุณไม่มีวันทำเสร็จสักที

Infozense Knowledge Engineering

กำลังนำ Agent เข้าสู่กระบวนการที่ถูกกำกับดูแล และยังไม่แน่ใจว่าเลเยอร์ข้างใต้ถูกดูแลครบแล้วหรือยัง?

นั่นคือบทสนทนาที่เราถนัดที่สุด เพียงนำ Workflow จริงมาหนึ่งตัว แล้วเราจะพาเดินผ่านทีละ Gate ไปด้วยกัน

คุยกับเรา →

contact@infozense.com  |  +66-82-242-4008  |  Bangkok, Thailand