โมดูล 4/5 · สัปดาห์ 10–12 · 27 ชม.

ประเมินความปลอดภัยและประสิทธิผล

UAT 494 โครงงานเทคโนโลยีระบบอากาศยานไร้คนขับและระบบอัตโนมัติ 2

เวลาเรียนประมาณ 90 นาทีร่าง รอตรวจปรับปรุงล่าสุด 28 กันยายน 2569

บทเรียน

เมื่อเรียนจบโมดูลนี้ ผู้เรียนจะสามารถ

  1. ประเมินความน่าเชื่อถือจากชั่วโมงบินทดสอบด้วย MTBF และแบบจำลองเอกซ์โพเนนเชียล
  2. คำนวณจำนวนการทดสอบที่ไม่มีความล้มเหลวที่ต้องใช้เพื่อยืนยันความน่าเชื่อถือ
  3. วัดการใช้งานง่ายด้วยแบบสอบถาม SUS
  4. ประเมินประสิทธิผลเทียบกับวิธีเดิมและทบทวนความเสี่ยงหลังทดสอบ

ความรู้พื้นฐานที่ควรมี: UAT 494 โมดูล 3 · UAT 493 โมดูล 5 (FMEA)

ทำไมต้องรู้

ระบบที่ทำงานได้ตามข้อกำหนดในการทดสอบไม่กี่ครั้ง อาจยังไม่พร้อมให้คนอื่นใช้ คณะกรรมการและผู้ใช้จะถามต่อว่า ระบบล้มเหลวบ่อยแค่ไหน ใช้งานง่ายหรือไม่ และดีกว่าวิธีเดิมจริงหรือ โมดูลนี้ให้เครื่องมือตอบคำถามเหล่านี้ด้วยตัวเลข

ความน่าเชื่อถือ

เมื่ออัตราความล้มเหลวคงที่ คู่มือสถิติของ NIST ให้ และประมาณ MTBF จากเวลาใช้งานรวมหารด้วยจำนวนความล้มเหลว ถ้าต้องการยืนยันความน่าเชื่อถือด้วยการทดสอบที่ ไม่มีความล้มเหลวเลย ใช้ (Luko, 1997) และถ้าทดสอบ ครั้งไม่ล้มเหลวเลย ขอบบน 95% ของอัตราความล้มเหลวประมาณ ตาม “กฎของสาม” (Hanley และ Lippman-Hand, 1983)

ตัวอย่างที่ 1 จากชั่วโมงบินทดสอบสู่ความน่าเชื่อถือ

บินทดสอบรวม 42 ชั่วโมง ล้มเหลวที่ต้องยกเลิกภารกิจ 2 ครั้ง ภารกิจตรวจคลองหนึ่งรอบใช้ราว 20 นาที (ข้อมูลสมมติ)

import math

T_HOURS, FAILURES, MISSION_MIN = 42.0, 2, 20
mtbf = T_HOURS / FAILURES
r_mission = math.exp(-(MISSION_MIN / 60) / mtbf)
print(f"MTBF {mtbf:.1f} h, reliability of one {MISSION_MIN}-min mission {r_mission:.3f}")
print(f"expected aborts in 100 missions: {100 * (1 - r_mission):.1f}")

for r_target, conf in ((0.95, 0.90), (0.95, 0.95), (0.99, 0.95)):
    n = math.ceil(math.log(1 - conf) / math.log(r_target))
    print(f"to show R >= {r_target} with {conf:.0%} confidence: {n} missions with zero failures")
print(f"30 missions with no failure -> failure rate below about {3 / 30:.0%} (rule of three)")
MTBF 21.0 h, reliability of one 20-min mission 0.984
expected aborts in 100 missions: 1.6
to show R >= 0.95 with 90% confidence: 45 missions with zero failures
to show R >= 0.95 with 95% confidence: 59 missions with zero failures
to show R >= 0.99 with 95% confidence: 299 missions with zero failures
30 missions with no failure -> failure rate below about 10% (rule of three)

ภารกิจละ 20 นาทีมีโอกาสสำเร็จราว 98% จากข้อมูลที่มี แต่ถ้าจะยืนยันว่า 95% ด้วยความเชื่อมั่น 90% ต้องบินสำเร็จโดยไม่ล้มเหลวเลย 45 รอบ ซึ่งเกินเวลาของโครงงาน จึงต้องรายงานระดับความเชื่อมั่นที่ข้อมูลรองรับได้จริง

กราฟความน่าเชื่อถือ R ของ t ตามเวลาบินต่อเนื่อง 0 ถึง 10 ชั่วโมง เส้นสีฟ้าลดลงจาก 1.0 เหลือราว 0.62 ที่ 10 ชั่วโมง จุดสีชมพูใกล้แกนตั้งที่เที่ยวบิน 20 นาที ค่าราว 0.98
ภาพที่ 1 ความน่าเชื่อถือแบบเอกซ์โพเนนเชียล MTBF 21 ชั่วโมง

ใช้งานง่ายหรือไม่

System Usability Scale (SUS) ของ Brooke (1996) เป็นแบบสอบถาม 10 ข้อ ระดับ 1–5 คิดคะแนนโดยข้อคี่ใช้ (คะแนน − 1) ข้อคู่ใช้ (5 − คะแนน) รวมแล้วคูณ 2.5 ได้ 0–100 Sauro (2011) รายงานว่าค่าเฉลี่ยจาก 500 การศึกษาอยู่ที่ราว 68 ส่วน Bangor และคณะ (2008) ให้แนวการแปลความหมายคะแนน

ตัวอย่างที่ 2 SUS จากเจ้าหน้าที่ชลประทาน 5 คน และประสิทธิผล

import statistics as st

responses = [                      # 10 ข้อ ระดับ 1–5
    [4, 2, 4, 2, 4, 1, 4, 2, 3, 2],
    [5, 1, 4, 2, 4, 2, 5, 1, 4, 3],
    [3, 2, 3, 3, 4, 2, 4, 2, 3, 2],
    [4, 2, 4, 1, 4, 2, 4, 2, 4, 2],
    [4, 3, 3, 2, 3, 2, 4, 3, 3, 2],
]

def sus(r):
    return 2.5 * sum((v - 1) if i % 2 == 0 else (5 - v) for i, v in enumerate(r))

scores = [sus(r) for r in responses]
print("SUS per user:", scores, f"mean {st.mean(scores):.1f}, lowest {min(scores)}")

manual = {"minutes per round": 180, "people": 2}
drone = {"minutes per round": 45, "people": 2}
saved = manual["minutes per round"] * manual["people"] - drone["minutes per round"] * drone["people"]
print(f"staff time saved per 2 km round: {saved} person-minutes ({saved / (manual['minutes per round'] * manual['people']):.0%})")
SUS per user: [75.0, 82.5, 65.0, 77.5, 62.5] mean 72.5, lowest 62.5
staff time saved per 2 km round: 270 person-minutes (75%)

ค่าเฉลี่ยสูงกว่าค่าเฉลี่ยอ้างอิงเล็กน้อย แต่ผู้ใช้สองคนต่ำกว่า 68 ควรสัมภาษณ์ว่าติดตรงไหน ห้าคนยังเป็นตัวอย่างน้อย และผลประหยัดเวลาต้องบอกด้วยว่าไม่รวมเวลาเตรียมเอกสารขออนุญาตบินและเวลาตรวจรายงาน

แถบคะแนน SUS 0 ถึง 100 เส้นประสีทองที่ 68 เขียนว่าค่าเฉลี่ย 68 Sauro จุดสีฟ้าที่ 72.5 เขียนว่าโครงงาน 72.5
ภาพที่ 2 คะแนน SUS ของโครงงานเทียบค่าเฉลี่ย

ทบทวนความเสี่ยงหลังทดสอบ

ผลทดสอบเป็นหลักฐานใหม่ที่ต้องนำกลับไปทบทวน FMEA จาก UAT 493 เช่น ถ้าพบว่า GNSS หายใกล้ต้นไม้สูงบ่อยกว่าคาด ต้องเพิ่มคะแนนโอกาสเกิดและเพิ่มมาตรการ ถ้าจะนำระบบไปใช้จริงนอกพื้นที่ทดสอบ ต้องประเมินตามกรอบความเสี่ยงของการปฏิบัติการ เช่น SORA ของ JARUS และตามกฎของ กพท.

ปฏิบัติการประจำโมดูล

ปฏิบัติการ: ประเมินหลังทดสอบ

  1. รวมชั่วโมงบินทดสอบและความล้มเหลวทั้งหมด คำนวณ MTBF ด้วยตัวอย่างที่ 1
  2. คำนวณจำนวนรอบที่ต้องใช้เพื่อยืนยันความน่าเชื่อถือ และเขียนระดับที่ข้อมูลรองรับจริง
  3. ให้ผู้ใช้จริงอย่างน้อยห้าคนลองใช้ระบบ ทำแบบสอบถาม SUS และสัมภาษณ์สั้น ๆ
  4. วัดเวลาเทียบวิธีเดิมอย่างเป็นระบบ รวมเวลาที่ซ่อนอยู่ เช่น การเตรียมและตรวจรายงาน
  5. ทบทวน FMEA ด้วยข้อมูลทดสอบ และบันทึกสิ่งที่เปลี่ยน

ข้อผิดพลาดที่พบบ่อย

ระวัง

  • อ้างความน่าเชื่อถือสูงจากการทดสอบไม่กี่ครั้ง
  • คิดคะแนน SUS ผิด โดยไม่กลับข้อคู่
  • ให้ทีมพัฒนาเป็นผู้ตอบ SUS เอง
  • เทียบประสิทธิผลโดยตัดเวลาที่ไม่เอื้อต่อระบบใหม่ออก
  • ไม่ปรับ FMEA ตามผลทดสอบ

สรุป

  • MTBF = เวลารวม/จำนวนความล้มเหลว และ R(t) = e^(−t/MTBF) เมื่ออัตราล้มเหลวคงที่
  • การยืนยันความน่าเชื่อถือต้องใช้การทดสอบจำนวนมาก
  • SUS คิดคะแนน 0–100 และเทียบกับค่าเฉลี่ยอ้างอิงราว 68
  • ประเมินประสิทธิผลอย่างครบถ้วน และนำผลทดสอบกลับไปทบทวนความเสี่ยง

แบบฝึกตรวจความเข้าใจ

  1. บิน 30 ชั่วโมง ล้มเหลว 3 ครั้ง MTBF เท่าใด
  2. MTBF 20 ชั่วโมง ภารกิจ 1 ชั่วโมง ความน่าเชื่อถือเท่าใด
  3. ต้องทดสอบไม่ล้มเหลวกี่ครั้งเพื่อยืนยัน R ≥ 0.90 ที่ความเชื่อมั่น 90%
  4. SUS ตอบทุกข้อเป็น 3 ได้คะแนนเท่าใด
  5. ทดสอบ 60 ครั้งไม่ล้มเหลวเลย ขอบบน 95% ของอัตราความล้มเหลวประมาณเท่าใด
เฉลย
  1. ชั่วโมง
  2. จึงต้อง 22 ครั้ง

สรุปสูตรสำคัญ

MTBF และความน่าเชื่อถือ
จำนวนทดสอบแบบไม่มีความล้มเหลว
คะแนน SUS

แหล่งอ้างอิงหลัก

  1. NIST/SEMATECH. Exponential distribution (section 8.1.6.1). e-Handbook of statistical methods. link
  2. NIST/SEMATECH. Estimating the exponential parameter (section 8.4.5.1). e-Handbook of statistical methods. link
  3. Luko, S. N. (1997). Attribute reliability and the success run: A review (SAE Technical Paper 972753). SAE International. link
  4. Hanley, J. A., & Lippman-Hand, A. (1983). If nothing goes wrong, is everything all right? Interpreting zero numerators. JAMA, 249(13), 1743–1745. link
  5. Brooke, J. (1996). SUS: A 'quick and dirty' usability scale. In P. W. Jordan, B. Thomas, B. A. Weerdmeester, & I. L. McClelland (Eds.), Usability evaluation in industry (pp. 189–194). Taylor & Francis. link
  6. Brooke, J. (2013). SUS: A retrospective. Journal of Usability Studies, 8(2), 29–40. link
  7. Sauro, J. (2011, February 3). Measuring usability with the System Usability Scale (SUS). MeasuringU. link
  8. Bangor, A., Kortum, P. T., & Miller, J. T. (2008). An empirical evaluation of the System Usability Scale. International Journal of Human–Computer Interaction, 24(6), 574–594. link
  9. Joint Authorities for Rulemaking on Unmanned Systems. (2024). JARUS guidelines on Specific Operations Risk Assessment (SORA), main body, edition 2.5 (JAR-DEL-SRM-SORA-MB-2.5). link

อ่านเพิ่มเติม

ศึกษาหน่วยความรู้ที่กำหนดล่วงหน้า ดูสื่อประกอบ และทำ quiz ประจำโมดูล

ในชั้นเรียน / ภาคสนาม

พัฒนาโครงงานเป็นทีม ประชุมที่ปรึกษา และนำเสนอความก้าวหน้า

หลักฐานการเรียนรู้: ผลงานตามจุดตรวจของโครงงาน

แบบทดสอบประจำโมดูล

แบบทดสอบนี้ใช้ตรวจความเข้าใจ (formative) ไม่ใช่การสอบเก็บคะแนน

โดเมนความรู้: กฎหมาย ความปลอดภัย และความเสี่ยง