Agentic AI หรือ ปัญญาประดิษฐ์เชิงตัวแทน ก้าวข้ามขีดจำกัดของ AI ทั่วไปจากการเป็นเพียงผู้ช่วยตอบคำถาม สู่การเป็น “ผู้ปฏิบัติการ” ที่สามารถวางแผนหลายขั้นตอนและตัดสินใจแทนมนุษย์ได้ ความสามารถกึ่งอิสระนี้สร้างช่องว่างทางกฎหมายที่สำคัญ เนื่องจากหลักความรับผิดเดิมมักตั้งอยู่บนฐานที่ว่า “มนุษย์เป็นผู้ควบคุมเครื่องมือ” บทความนี้จึงมุ่งวิเคราะห์ความท้าทายในการระบุตัวผู้รับผิดเมื่อ AI ตัดสินใจผิดพลาด พร้อมเสนอกรอบธรรมาภิบาล 3 เสาหลัก เพื่อปิดช่องว่างความรับผิดและสร้างมาตรฐานความปลอดภัยในยุคที่หุ่นยนต์ไม่ได้ทำงานแค่ในโรงงาน แต่ทำงานในโลกดิจิทัลแทนเรา
บทนำ: Agentic AI จาก “เครื่องมือ” สู่ “ผู้กระทำการแทน”
ในอดีต Generative AI อย่าง ChatGPT ทำหน้าที่เพียงสร้างเนื้อหาตามคำสั่ง (Prompt) แต่ในปัจจุบัน Agentic AI เช่น Gemini Agent ของ Google, Bedrock Managed Agents ของ Amazon หรือ ChatGPT Agent ของ OpenAI ก้าวไปไกลกว่านั้น AI เหล่านี้สามารถรับเป้าหมายกว้างๆ เช่น “ช่วยจัดการการเดินทางไปประชุมที่ต่างประเทศให้หน่อย” แล้วดำเนินการเองตั้งแต่นำทางเว็บไซต์ จองตั๋วเครื่องบิน โอนเงิน ไปจนถึงแก้ไขปัญหาเมื่อเที่ยวบินถูกยกเลิก
เมื่อ AI กลายเป็น “ตัวแทน” (Agent) ที่ก่อผลทางกฎหมายและการเงินได้จริง คำถามสำคัญที่ตามมาคือ: หากเกิดความผิดพลาดหรือความเสียหาย ใครคือผู้รับผิดชอบ? ระหว่างผู้พัฒนาโมเดล ผู้ที่นำระบบไปติดตั้ง หรือตัวผู้ใช้เอง ในเมื่อมนุษย์ไม่ได้เป็นคนกด “ยืนยัน” ในทุกขั้นตอนอีกต่อไป
Agentic AI กับจุดเปลี่ยนทางเทคโนโลยีที่ท้าทายกฎหมาย
Agentic AI มีคุณสมบัติพิเศษที่ทำให้กฎหมายดั้งเดิมบังคับใช้ได้ยาก ดังนี้:
- ความอิสระในการบรรลุเป้าหมาย (Goal-Driven Autonomy): AI รับคำสั่งแบบกว้างแล้วไปแตกงานเอง ทำให้เกิด “ช่องว่างแห่งเจตนา” ระหว่างสิ่งที่มนุษย์สั่งกับสิ่งที่ AI ไปทำจริง
- การวางแผนซับซ้อน (Multi-Step Planning): การที่ AI ปรับแผนเองได้ตามสถานการณ์ ทำให้การพิสูจน์ความประมาทเลินเล่อทำได้ยาก เพราะผลลัพธ์อาจไม่ใช่สิ่งที่คาดการณ์ได้ตั้งแต่ต้น
- การเชื่อมต่อโลกภายนอก (Tool Use): การเรียกใช้ API หรือควบคุมระบบการเงินโดยตรง ทำให้ความผิดพลาดนำไปสู่ความเสียหายต่อทรัพย์สินได้ทันที
- พฤติกรรมอุบัติ (ที่เกิดขึ้นเอง) (Emergent Behavior): AI อาจเกิดการเรียนรู้และสร้างพฤติกรรมใหม่ๆ ที่แม้แต่ผู้พัฒนาก็ไม่ได้โปรแกรมไว้ล่วงหน้า
Agentic AI กับความท้าทายในกรอบธรรมาภิบาลปัจจุบัน
แม้แต่กฎหมายล้ำสมัยอย่าง EU AI Act ก็ยังเผชิญกับอุปสรรคในการรับมือกับ AI ใน 3 มิติหลัก:
1. ช่องว่างระหว่างความปลอดภัยและความรับผิด
กฎหมายส่วนใหญ่มุ่งเน้นไปที่การวางมาตรฐานความปลอดภัย เช่น การทดสอบระบบก่อนออกสู่ตลาด แต่ยังไม่ได้ระบุชัดเจนว่าหากระบบที่ “ผ่านการทดสอบแล้ว” เกิดตัดสินใจผิดพลาดจนทำให้คนเสียทรัพย์สินในภายหลัง ใครจะเป็นผู้จ่ายค่าชดเชย
2. การแยกบทบาท “ผู้สร้าง” และ “ผู้ใช้เชิงธุรกิจ”
กฎหมายพยายามแยกความรับผิดชอบระหว่าง ผู้ให้บริการ (Provider) และ ผู้ติดตั้งระบบ (Deployer) แต่สำหรับ Agentic AI เส้นแบ่งนี้เริ่มเลือนลาง หากผู้ติดตั้งใช้งานตามคู่มือทุกประการ แต่ AI กลับ “คิดนอกกรอบ” จนเกิดความเสียหาย การจะโยนความผิดให้ฝ่ายใดฝ่ายหนึ่งเพียงฝ่ายเดียวจึงเป็นเรื่องที่ไม่เป็นธรรมและพิสูจน์ยาก
3. ข้อจำกัดของความโปร่งใส
AI ประเภทนี้เรียนรู้และปรับตัวตลอดเวลา มาตรฐานความโปร่งใสในปัจจุบันมักตรวจวัดเฉพาะตอน “ก่อนวางขาย” แต่ความเสี่ยงของ AI ประเภทนี้ อาจเกิดขึ้นได้ทุกเมื่อหลังจากที่มันเริ่มทำงานไปแล้ว กฎหมายจึงจำเป็นต้องมีกลไกการเฝ้าระวังหลังการขาย (Post-market Monitoring) ที่เข้มข้นกว่าเดิม
แนวทางการกำกับดูแลในระดับสากล
ในขณะที่โลกกำลังเผชิญกับความท้าทายเดียวกัน แต่ละภูมิภาคเลือกใช้วิธีการที่แตกต่างกันตามบริบททางกฎหมายและเศรษฐกิจ ดังนี้:
1. สหภาพยุโรป (EU): เน้นการป้องกันล่วงหน้า (Precautionary Approach)
EU AI Act กำหนดกรอบการกำกับดูแลเชิงป้องกัน โดยจำแนกระบบ AI ตามระดับความเสี่ยง (Risk-Based Approach) และกำหนดพันธกรณีก่อนวางตลาด (Pre-market Obligations) แทนการรอให้เกิดความเสียหายแล้วค่อยดำเนินการ สำหรับโมเดลพื้นฐานขนาดใหญ่ (General-Purpose AI Models: GPAI) ที่ฝึกด้วยปริมาณการประมวลผลเกินกว่า 10²⁵ FLOPs กฎหมายกำหนดให้ต้องประเมินและบรรเทาความเสี่ยงเชิงระบบ (Systemic Risk) เป็นการเฉพาะ นอกจากนี้ หน่วยงานกำกับดูแลมีอำนาจสั่งระงับหรือเรียกคืนระบบ AI ที่ก่อให้เกิดความเสี่ยงร้ายแรงได้ทันที โดยไม่ต้องรอให้มีการฟ้องร้องเกิดขึ้นก่อน
(**FLOP ย่อมาจาก Floating-Point Operation คือหน่วยนับการคำนวณทางคณิตศาสตร์หนึ่งครั้งของคอมพิวเตอร์)
2. สหรัฐอเมริกา: เน้นการจัดการความเสี่ยงและความโปร่งใสในการตัดสินใจ (Risk Management and Explainability)
ในระดับรัฐบาลกลาง สหรัฐอเมริกายังไม่มีกฎหมาย AI เฉพาะที่บังคับใช้โดยครอบคลุม แต่ได้วางกรอบมาตรฐานการจัดการความเสี่ยงผ่าน NIST AI Risk Management Framework (AI RMF) ซึ่งเป็นแนวทางสมัครใจที่ภาคเอกชนและหน่วยงานรัฐนำไปปรับใช้อย่างกว้างขวาง ในระดับมลรัฐ มีแนวโน้มที่น่าจับตามองคือการนำหลัก “ข้อสันนิษฐานความรับผิด” (Rebuttable Presumption) มาพิจารณาในร่างกฎหมาย โดยหลักการดังกล่าวกำหนดให้เมื่อ AI ก่อให้เกิดความเสียหาย ภาระการพิสูจน์จะตกอยู่ที่ผู้พัฒนาในการอธิบายกระบวนการตัดสินใจของระบบ อย่างไรก็ตาม ณ ปัจจุบัน หลักการนี้ยังอยู่ในขั้นการพิจารณาทางนิติบัญญัติและการถกเถียงทางวิชาการ มิใช่กฎหมายที่มีผลบังคับใช้จริงในมลรัฐใดมลรัฐหนึ่งอย่างชัดเจน
3. สหราชอาณาจักร: เน้นความยืดหยุ่นตามบริบทของอุตสาหกรรม (Context-Specific / Sector-Led Approach)
สหราชอาณาจักรกำหนดให้หน่วยงานกำกับดูแลเฉพาะสาขา เช่น Financial Conduct Authority (FCA) สำหรับภาคการเงิน และ Medicines and Healthcare products Regulatory Agency (MHRA) สำหรับภาคสาธารณสุข เป็นผู้กำกับดูแล AI ภายในขอบเขตความรับผิดชอบของตน แทนการออกกฎหมาย AI กลางฉบับเดียว แนวทางนี้สะท้อน AI White Paper (2023) ที่วางหลักการว่าตราบใดที่มนุษย์ยังมีบทบาทในกระบวนการตัดสินใจ (Human-in-the-Loop) บุคคลหรือองค์กรนั้นต้องรับผิดชอบต่อผลลัพธ์ที่เกิดขึ้น แต่หากระบบทำงานแบบอัตโนมัติเต็มรูปแบบ ภาระความรับผิดชอบจะโอนไปยัง “ผู้ประกอบการ” (Operator) ในฐานะผู้ได้รับประโยชน์จากการใช้งานระบบนั้น
4. สิงคโปร์: บูรณาการ Soft Law เข้ากับกลไกบังคับใช้กฎหมายที่มีอยู่ (Soft Law with Existing Legal Enforcement)
สิงคโปร์ใช้แนวทางที่แตกต่างจากการออกกฎหมาย AI เฉพาะ โดยยกระดับ Model AI Governance Framework ซึ่งเป็นกรอบธรรมาภิบาลแบบสมัครใจ ให้กลายเป็นมาตรฐานความระมัดระวัง (Standard of Care) สำหรับการพิจารณาความรับผิดภายใต้กฎหมายที่มีอยู่เดิม ได้แก่ กฎหมายละเมิด (Tort Law) กฎหมายสัญญา และ Personal Data Protection Act (PDPA) องค์กรที่ไม่ปฏิบัติตามกรอบดังกล่าวอาจถูกถือว่าละเลยมาตรฐานความระมัดระวังที่พึงกระทำ และต้องรับผิดชอบต่อความเสียหายที่เกิดจาก AI แนวทางนี้ช่วยรักษาสมดุลระหว่างการส่งเสริมนวัตกรรมและการบังคับใช้กฎหมายอย่างมีประสิทธิภาพ โดยไม่จำเป็นต้องตรากฎหมายใหม่ที่อาจจำกัดความยืดหยุ่นในการปรับตัวต่อพัฒนาการของเทคโนโลยี
ข้อเสนอ: 3 เสาหลักเพื่อธรรมาภิบาล Agentic AI
เพื่อให้เกิดความเป็นธรรมต่อผู้เสียหายและไม่ขัดขวางนวัตกรรม บทความนี้เสนอแนวทางดังนี้:
1. ความรับผิดแบบขั้นบันได (Ladder of Control)
แบ่งความรับผิดตามระดับการควบคุมของมนุษย์:
- มนุษย์สั่งการ (Human-in-Command): หาก AI ต้องรออนุมัติทุกขั้นตอน ผู้ใช้งานต้องรับผิดชอบเป็นหลัก
- มนุษย์เฝ้าดู (Human-on-the-Loop): หาก AI ทำงานเองแต่คนเบรกได้ ความรับผิดชอบควรร่วมกันระหว่างผู้ใช้และผู้พัฒนา
- อิสระเต็มตัว (Human-out-of-the-Loop): หาก AI ตัดสินใจเองในระดับสูง ผู้พัฒนาต้องรับผิดชอบในฐานะผู้สร้างความเสี่ยง (Strict Liability)
2. การปรับภาระการพิสูจน์ (Reversing the Burden of Proof)
เนื่องจากผู้เสียหายเป็นฝ่ายเสียเปรียบด้านข้อมูล (Black Box) กฎหมายควรสันนิษฐานไว้ก่อนว่าความเสียหายเกิดจากความบกพร่องของระบบ เว้นแต่ผู้พัฒนาจะสามารถพิสูจน์ได้ว่าตนได้วางมาตรการป้องกันไว้ดีที่สุดแล้ว
3. กลไกการบันทึกการตัดสินใจ (Decision Trail)
กำหนดให้ AI ต้องมีการบันทึก “ร่องรอยการตัดสินใจ” (Log) ที่อธิบายเหตุผลในแต่ละขั้นตอนได้ หากเกิดเหตุการณ์ที่ AI อธิบายตัวเองไม่ได้ (Explainability failure) ให้ถือว่าผู้พัฒนาต้องรับผิดชอบต่อความเสี่ยงนั้น
