AI ในงานจริงและจริยธรรม

ทำไมต้องรู้

แบบจำลองที่ได้คะแนนดีในห้องทดลองยังห่างไกลจากระบบที่ใช้งานได้จริง ต้องทำงานทันเวลาบนฮาร์ดแวร์ที่บินได้ ทำงานได้ดีกับทุกสภาพที่จะพบ และต้องมีคนรับผิดชอบเมื่อผิดพลาด โดยเฉพาะงานที่กระทบชีวิตและความเป็นส่วนตัวของผู้คน เช่น ค้นหาผู้ประสบภัยหรือเฝ้าระวังพื้นที่สาธารณะ

AI บนโดรน สถานีภาคพื้น หรือคลาวด์

Edge AI คือการประมวลผลแบบจำลองบนอุปกรณ์ปลายทาง เช่น คอมพิวเตอร์บนโดรน ฮาร์ดแวร์ที่นิยมมีตัวเร่งการคำนวณ เช่น Raspberry Pi AI HAT+ ขนาด 13 และ 26 TOPS สำหรับ Raspberry Pi 5 หรือ NVIDIA Jetson Orin Nano Super ที่ระบุ 67 TOPS ตัวเลข TOPS เหล่านี้วัดคนละเงื่อนไข เช่น ของ Jetson เป็นค่าแบบ sparse INT8 จึงเทียบกันตรง ๆ ไม่ได้ ต้องวัดเวลาของแบบจำลองที่จะใช้จริงบนบอร์ดจริงเสมอ แบบจำลองมักแปลงเป็นรูปแบบกลาง เช่น ONNX แล้วรันด้วย ONNX Runtime และต้องตรวจว่าผลหลังแปลงยังตรงกับผลเดิม

งานที่ต้องตอบภายในเสี้ยววินาทีต้องทำบนโดรน งานที่ต้องการคนยืนยันทำที่สถานีภาคพื้น ส่วนการฝึกแบบจำลองใหม่ใช้ทรัพยากรมากจึงทำบนคลาวด์หรือเซิร์ฟเวอร์

speed = 10.0
fps = 30
budget_ms = 1000 / fps
for label, latency_ms in [("median", 35), ("p95", 80)]:
    print(f"{label:<6} {latency_ms} ms -> drone moves {speed * latency_ms / 1000:.2f} m, "
          f"within frame budget {budget_ms:.1f} ms: {latency_ms <= budget_ms}")
print(f"frames the detector can keep up with at p95: {1000 / 80:.1f} fps")

median 35 ms -> drone moves 0.35 m, within frame budget 33.3 ms: False
p95    80 ms -> drone moves 0.80 m, within frame budget 33.3 ms: False
frames the detector can keep up with at p95: 12.5 fps

ประเมินผลแยกตามกลุ่ม

ค่าเฉลี่ยรวมอาจซ่อนกลุ่มที่แบบจำลองทำได้แย่ ข้อมูลฝึกที่มีภาพกลางวันมากกว่ากลางคืน หรือมีผู้คนบางแบบมากกว่าแบบอื่น ทำให้แบบจำลอง ลำเอียง (bias) ต่อกลุ่มที่มีข้อมูลน้อย

import pandas as pd

results = pd.DataFrame({"condition": ["day", "night"], "TP": [90, 24], "FN": [10, 16]})
results["recall"] = results["TP"] / (results["TP"] + results["FN"])
print(results.to_string(index=False))
overall = results["TP"].sum() / (results["TP"].sum() + results["FN"].sum())
print(f"overall recall {overall:.3f}")

condition  TP  FN  recall
      day  90  10     0.9
    night  24  16     0.6
overall recall 0.814

recall รวม 0.81 ดูดี แต่กลางคืนพบผู้ประสบภัยเพียง 60% ถ้าการค้นหาจริงมักเกิดตอนกลางคืน ตัวเลขรวมจะทำให้ผู้ตัดสินใจเชื่อระบบเกินจริง ตัวเลขนี้เป็นข้อมูลสมมติเพื่อฝึกคิด รายงานผลจึงต้องแยกตามสภาพที่สำคัญเสมอ และระบุใน data card ว่าข้อมูลครอบคลุมสภาพใดบ้าง

มนุษย์ในวงการตัดสินใจ

ระดับการตัดสินใจอัตโนมัติมีตั้งแต่ มนุษย์อยู่ในวง (human-in-the-loop) ที่ระบบเสนอแต่คนตัดสิน มนุษย์กำกับดูแล (human-on-the-loop) ที่ระบบทำเองแต่คนเฝ้าดูและหยุดได้ ไปจนถึงอัตโนมัติเต็มรูปแบบ งานที่ผลเสียร้ายแรงหรือย้อนกลับไม่ได้ควรให้คนตัดสินใจ ผลของ AI คัดกรองภาพหลังภัยพิบัติจึงควรเป็น รายการช่วยตรวจ ไม่ใช่คำตัดสินสภาพจริง ตามที่หน่วยความรู้ “AI คัดกรองภาพและความเสียหาย” อธิบายไว้

กรอบจริยธรรมและการกำกับดูแล AI

• NIST AI Risk Management Framework 1.0 (มกราคม 2023) จัดการความเสี่ยงของ AI ด้วยสี่หน้าที่ คือ Govern (นโยบาย บทบาท ความรับผิดชอบ) Map (เข้าใจบริบทและความเสี่ยง) Measure (วัดและทดสอบ) และ Manage (จัดลำดับและจัดการความเสี่ยง) NIST ระบุว่ากรอบนี้อยู่ระหว่างปรับปรุง
• ข้อเสนอแนะด้านจริยธรรม AI ของ UNESCO (พฤศจิกายน 2021) วางคุณค่าหลักสี่ประการ เช่น สิทธิมนุษยชนและศักดิ์ศรีความเป็นมนุษย์ และหลักการสิบข้อ เช่น การไม่ก่ออันตรายและความได้สัดส่วน ความเป็นส่วนตัว ความโปร่งใสและอธิบายได้ การกำกับดูแลโดยมนุษย์ และความเป็นธรรม
• EU AI Act (Regulation (EU) 2024/1689) มีผลใช้บังคับตั้งแต่ 1 สิงหาคม 2024 และทยอยใช้เป็นระยะ การห้ามระบบ AI บางประเภทเริ่มกุมภาพันธ์ 2025 และหน้าของคณะกรรมาธิการยุโรประบุว่ากฎของระบบความเสี่ยงสูงถูกเลื่อนออกไปเป็นปี 2027–2028 กำหนดการยังเปลี่ยนได้ ต้องตรวจฉบับล่าสุดก่อนอ้างอิง กฎหมายนี้มีผลกับผู้ให้บริการที่นำระบบเข้าสู่ตลาดยุโรป
• ประเทศไทย ETDA และกระทรวงดิจิทัลเพื่อเศรษฐกิจและสังคมเปิดรับฟังความคิดเห็น (ร่าง) หลักการของกฎหมายว่าด้วยปัญญาประดิษฐ์เมื่อมิถุนายน 2568 ขณะเขียนยังไม่พบว่าประกาศเป็นกฎหมาย ต้องตรวจสถานะล่าสุด ส่วนข้อมูลส่วนบุคคลในภาพและข้อมูลฝึก ใช้ พ.ร.บ.คุ้มครองข้อมูลส่วนบุคคล พ.ศ. 2562 ตามที่เรียนใน UAT 313 โมดูล 5

กิจกรรมในชั้นเรียน

ข้อผิดพลาดที่พบบ่อย

สรุป

• เลือกที่ประมวลผลตามเวลาตอบสนองที่ต้องการ และวัดเวลาจริงบนบอร์ดจริง ระยะที่เคลื่อนระหว่างประมวลผลคือ $v\times t$
• ประเมินผลแยกตามกลุ่มเพื่อหาความลำเอียงที่ค่าเฉลี่ยซ่อนไว้
• งานที่ผลเสียร้ายแรงต้องมีมนุษย์ในวงการตัดสินใจ ผลของ AI เป็นรายการช่วยตรวจ
• ใช้ NIST AI RMF และหลักของ UNESCO เป็นกรอบคิด และตรวจสถานะกฎหมายล่าสุดทั้ง EU AI Act กฎหมาย AI ของไทย และ PDPA

แบบฝึกตรวจความเข้าใจ

1. โดรนบิน 15 m/s ตัวตรวจจับใช้เวลา 60 ms โดรนเคลื่อนไปกี่เมตรก่อนได้ผล
2. กล้อง 25 เฟรมต่อวินาทีมีงบเวลาต่อเฟรมเท่าใด
3. กลางวัน TP 45 FN 5 กลางคืน TP 12 FN 8 recall แต่ละกลุ่มเท่าใด
4. สี่หน้าที่ของ NIST AI RMF มีอะไรบ้าง
5. ทำไมตัวเลข TOPS ของบอร์ดสองรุ่นจึงเทียบกันตรง ๆ ไม่ได้