คุณต้องการใช้ AI กับเอกสารและข้อมูลที่สำคัญจริง ๆ แต่ข้อมูลเหล่านั้นส่งไปยังบริการ Cloud ไม่ได้ ทางออกคือแพลตฟอร์ม AI ที่ทำงานบนฮาร์ดแวร์ของคุณเอง ภายในเครือข่ายของคุณ ข้อมูลจึงไม่ต้องออกไปไหน เราประเมินขนาด กำหนดสเปก ติดตั้ง และส่งมอบในสภาพที่ใช้งานได้ทันที พร้อมฝึกทีมของคุณให้ดูแลต่อได้เอง
พรุ่งนี้พนักงานของคุณใช้ AI กับเอกสารลับและข้อมูลส่วนบุคคลได้หรือไม่ โดยไม่มีข้อมูลใดออกนอกเครือข่ายของคุณเลย
สำหรับองค์กรส่วนใหญ่ คำตอบคือไม่ได้ ใช้บริการ AI บน Cloud กับข้อมูลอ่อนไหวไม่ได้ โครงการ AI จึงหยุดชะงัก หรือพนักงานก็นำข้อความลับไปวางในแชตบอตสาธารณะอยู่ดี การซื้อเครื่องที่มี GPU อย่างเดียวไม่ได้แก้ปัญหานี้ ยังต้องมีคนประเมินขนาด สร้างแพลตฟอร์มที่ทำงานได้ต่อเนื่อง ติดตั้งโมเดลที่ใช้ภาษาไทยได้ และส่งมอบระบบที่ทีมของคุณดูแลเองได้
แต่ไม่ได้หมายความว่าทุกอย่างต้องย้ายมาทำงานภายใน งานที่เป็นข้อมูลสาธารณะหรือมีความอ่อนไหวต่ำยังส่งไปใช้โมเดลที่ดีที่สุดบน Cloud ได้ แพลตฟอร์มนี้มีไว้สำหรับงานที่ต้องอยู่ภายในองค์กร การแบ่งงานสองส่วนนี้ตัดสินได้ในทุกคำขอ ด้วย Classification ของตัวข้อมูลเอง ดูรายละเอียดได้ใน โมเดลที่ดีที่สุดของคุณอยู่บน Cloud
นี่คืองานส่งมอบในด้าน AI เป็นขั้นตอนที่เปลี่ยน ‘เราใช้ AI กับข้อมูลนี้ไม่ได้’ ให้เป็นแพลตฟอร์มที่ทำงานได้จริงภายในองค์กรของคุณ
สิ่งส่งมอบหกรายการ ฮาร์ดแวร์เป็นของคุณ แพลตฟอร์มเป็นของคุณ และรหัสผ่านทุกชุดก็เป็นของคุณ
ขนาดโมเดลที่คุณต้องใช้ หน่วยความจำ GPU ที่โมเดลนั้นต้องการ และจำนวนคนที่ถามพร้อมกันได้ รวมถึง CPU, RAM และพื้นที่จัดเก็บสำหรับทุกอย่างที่ทำงานรอบโมเดล บันทึกเป็นเอกสารพร้อมวิธีคำนวณ
สเปกที่ผู้ผลิตมากกว่าหนึ่งรายเสนอได้ เขียนในรูปแบบที่การจัดซื้อจัดจ้างภาครัฐต้องการ จะจัดซื้อผ่านกระบวนการของคุณเองหรือผ่านเราก็ได้ สเปกนี้ไม่ผูกคุณไว้กับยี่ห้อใด
แพลตฟอร์ม Virtual Machine บนพื้นที่จัดเก็บแบบ ZFS มีดิสก์ระบบแบบ Mirror พื้นที่จัดเก็บ VM ที่ทนต่อดิสก์เสียได้ Snapshot และสำเนา Backup ทั้งบนเครื่องและนอกเครื่องตามหลัก 3-2-1 ส่วน GPU จัดสรรให้ VM ที่ต้องใช้เข้าถึงได้โดยตรง
ระบบให้บริการโมเดล โมเดลที่คัดเลือกแล้วว่าใช้ภาษาไทยได้ หน้าจอแชตสำหรับพนักงาน ชุดเริ่มต้นให้ AI ตอบคำถามจากเอกสารของคุณเอง และ API ที่นักพัฒนาของคุณนำไปต่อยอดได้
แยก Environment ตั้งแต่เริ่มต้น เมื่อ Production ย้ายไปอยู่บนฮาร์ดแวร์ระดับ Server เครื่อง Workstation นี้จะกลายเป็นเครื่องสำหรับพัฒนา แทนที่จะต้องเปลี่ยนทิ้ง
Runbook ที่เขียนสำหรับทีมของคุณ การฝึกอบรมแบบลงมือทำ และเงื่อนไขการสนับสนุนที่กำหนดเป็นลายลักษณ์อักษร ว่าครอบคลุมอะไร ในช่วงเวลาใด และตอบกลับเร็วแค่ไหน
เครื่องระดับ Workstation เหมาะกับงานพัฒนา และงาน Production ระยะนำร่องที่ยอมให้หยุดได้ช่วงสั้น ๆ แต่ไม่เหมาะกับ AI ที่องค์กรขาดไม่ได้และต้องทำงานตลอด 24 ชั่วโมง งานแบบนั้นควรอยู่บนฮาร์ดแวร์ระดับ Server ที่มีแหล่งจ่ายไฟและชิ้นส่วนสำรอง
เราจะบอกคุณก่อนซื้อว่าคุณต้องใช้แบบไหน และแพลตฟอร์มที่เราสร้างย้ายไปอยู่บน Server ได้เมื่อถึงเวลา
แพลตฟอร์มนี้สร้างมาเพื่อขยายต่อได้ แต่ละข้อด้านล่างคือขั้นตอนถัดไปที่กำหนดไว้ชัดเจน และคุณเลือกได้อิสระว่าจะทำเองหรือทำร่วมกับใครก็ได้
คำถามสามข้อเป็นตัวกำหนดสเปกเครื่อง คือโมเดลต้องใหญ่แค่ไหนสำหรับงานนี้ โมเดลนั้นใช้หน่วยความจำ GPU เท่าไร และจะมีคนถามพร้อมกันกี่คน โมเดลถูกโหลดเพียงครั้งเดียว หน่วยความจำที่เหลือคือส่วนที่ใช้ตอบคนที่กำลังถาม และแต่ละคนต้องใช้ส่วนของตัวเอง
จำนวนคนที่ถามพร้อมกันได้ ตามหน่วยความจำ GPU ของการ์ดหนึ่งใบ (เกณฑ์วางแผน 2 GB ต่อผู้ถามหนึ่งคน)
จำนวนคนที่ถามในเวลาเดียวกัน (ไม่ใช่จำนวนพนักงานทั้งหมด)
หน่วยความจำ GPU ของการ์ดหนึ่งใบ (GB)
ตัวเลขชุดเดียวกันในรูปตาราง
| ขนาดโมเดล (4‑bit) | โมเดลใช้ | 24 GB | 48 GB | 96 GB |
|---|---|---|---|---|
| ~12B | ~7 GB | 7 | 17 | 39 |
| ~70B | ~43 GB | — | — | 21 |
| ~120B | ~65 GB | — | — | 10 |
คำนวณจากโมเดลแบบ 4-bit เผื่อหน่วยความจำประมาณ 2 GB ต่อผู้ถามหนึ่งคน และกันพื้นที่ 10% ของการ์ดไว้ให้ซอฟต์แวร์ ช่องที่เป็นขีดหมายถึงใส่โมเดลไม่ลง หรือไม่เหลือพื้นที่ให้ใครถาม
ตัวเลข 2 GB ตั้งเผื่อไว้โดยตั้งใจเพื่อใช้วางแผน ค่าจริงขึ้นอยู่กับการออกแบบของโมเดลและความยาวของแต่ละบทสนทนา ตั้งแต่ไม่ถึง 1 GB ไปจนถึงราว 3 GB ต่อคนสำหรับบทสนทนาทั่วไป และมากกว่านั้นเมื่อเป็นเอกสารยาว หน่วยความจำเป็นแค่เพดานด้านหนึ่ง อีกด้านคือความเร็วในการตอบเมื่อมีหลายคนถามพร้อมกัน และเราตรวจทั้งสองอย่างตอนประเมินขนาด
งานอัตโนมัติก็นับด้วย บอตทุกตัวหรืองานตั้งเวลาทุกงานที่ถาม AI จะใช้หนึ่งที่ เท่ากับคนหนึ่งคน
หน่วยความจำ GPU เป็นตัวกำหนดว่ารันโมเดลได้ใหญ่แค่ไหน และมีคนถามพร้อมกันได้กี่คน ส่วน CPU และ RAM เป็นตัวกำหนดว่าสร้างแอปพลิเคชันรอบโมเดลได้มากแค่ไหน
แถบขอบเขตบนกราฟเป็นเพียงแนวทางคร่าว ๆ ไม่ใช่คำสัญญา การ์ดหนึ่งใบรองรับได้มากแค่ไหนขึ้นอยู่กับว่าคนของคุณถามบ่อยเพียงใด
ตัวเลขอ้างอิงจากขนาดโมเดลที่เผยแพร่สาธารณะ ทบทวนล่าสุดเดือนกันยายน 2569
กรณีของคุณจะไม่ตรงกับตารางพอดี การคุยกำหนดขอบเขตจึงเริ่มจากตรงนี้
กำหนดขอบเขตเป็นรายโครงการ และเสนอราคาก่อนซื้อสิ่งใด ฮาร์ดแวร์และบริการแยกราคากัน เพื่อให้คุณเห็นว่าแต่ละส่วนมีค่าใช้จ่ายเท่าไร
ค่าบริการกำหนดจากสามเรื่อง คือจำนวนคนที่ใช้พร้อมกัน ขนาดของโมเดลที่ต้องรัน และระดับการสำรองอุปกรณ์ที่คุณต้องการ เราจะได้คำตอบครบทั้งสามข้อจากการคุยกำหนดขอบเขต
บอกเราว่าคุณต้องการให้ AI ทำอะไร และทำกับข้อมูลใด แล้วเราจะส่งสเปกที่คำนวณขนาดไว้แล้วพร้อมใบเสนอราคาให้คุณ
