ประเมินความปลอดภัยและประสิทธิผล
UAT 494 โครงงานเทคโนโลยีระบบอากาศยานไร้คนขับและระบบอัตโนมัติ 2
บทเรียน
เมื่อเรียนจบโมดูลนี้ ผู้เรียนจะสามารถ
- ประเมินความน่าเชื่อถือจากชั่วโมงบินทดสอบด้วย MTBF และแบบจำลองเอกซ์โพเนนเชียล
- คำนวณจำนวนการทดสอบที่ไม่มีความล้มเหลวที่ต้องใช้เพื่อยืนยันความน่าเชื่อถือ
- วัดการใช้งานง่ายด้วยแบบสอบถาม SUS
- ประเมินประสิทธิผลเทียบกับวิธีเดิมและทบทวนความเสี่ยงหลังทดสอบ
ทำไมต้องรู้
ระบบที่ทำงานได้ตามข้อกำหนดในการทดสอบไม่กี่ครั้ง อาจยังไม่พร้อมให้คนอื่นใช้ คณะกรรมการและผู้ใช้จะถามต่อว่า ระบบล้มเหลวบ่อยแค่ไหน ใช้งานง่ายหรือไม่ และดีกว่าวิธีเดิมจริงหรือ โมดูลนี้ให้เครื่องมือตอบคำถามเหล่านี้ด้วยตัวเลข
ความน่าเชื่อถือ
เมื่ออัตราความล้มเหลวคงที่ คู่มือสถิติของ NIST ให้ และประมาณ MTBF จากเวลาใช้งานรวมหารด้วยจำนวนความล้มเหลว ถ้าต้องการยืนยันความน่าเชื่อถือด้วยการทดสอบที่ ไม่มีความล้มเหลวเลย ใช้ (Luko, 1997) และถ้าทดสอบ ครั้งไม่ล้มเหลวเลย ขอบบน 95% ของอัตราความล้มเหลวประมาณ ตาม “กฎของสาม” (Hanley และ Lippman-Hand, 1983)
ตัวอย่างที่ 1 จากชั่วโมงบินทดสอบสู่ความน่าเชื่อถือ
บินทดสอบรวม 42 ชั่วโมง ล้มเหลวที่ต้องยกเลิกภารกิจ 2 ครั้ง ภารกิจตรวจคลองหนึ่งรอบใช้ราว 20 นาที (ข้อมูลสมมติ)
import math
T_HOURS, FAILURES, MISSION_MIN = 42.0, 2, 20
mtbf = T_HOURS / FAILURES
r_mission = math.exp(-(MISSION_MIN / 60) / mtbf)
print(f"MTBF {mtbf:.1f} h, reliability of one {MISSION_MIN}-min mission {r_mission:.3f}")
print(f"expected aborts in 100 missions: {100 * (1 - r_mission):.1f}")
for r_target, conf in ((0.95, 0.90), (0.95, 0.95), (0.99, 0.95)):
n = math.ceil(math.log(1 - conf) / math.log(r_target))
print(f"to show R >= {r_target} with {conf:.0%} confidence: {n} missions with zero failures")
print(f"30 missions with no failure -> failure rate below about {3 / 30:.0%} (rule of three)")
MTBF 21.0 h, reliability of one 20-min mission 0.984
expected aborts in 100 missions: 1.6
to show R >= 0.95 with 90% confidence: 45 missions with zero failures
to show R >= 0.95 with 95% confidence: 59 missions with zero failures
to show R >= 0.99 with 95% confidence: 299 missions with zero failures
30 missions with no failure -> failure rate below about 10% (rule of three)
ภารกิจละ 20 นาทีมีโอกาสสำเร็จราว 98% จากข้อมูลที่มี แต่ถ้าจะยืนยันว่า 95% ด้วยความเชื่อมั่น 90% ต้องบินสำเร็จโดยไม่ล้มเหลวเลย 45 รอบ ซึ่งเกินเวลาของโครงงาน จึงต้องรายงานระดับความเชื่อมั่นที่ข้อมูลรองรับได้จริง
ใช้งานง่ายหรือไม่
System Usability Scale (SUS) ของ Brooke (1996) เป็นแบบสอบถาม 10 ข้อ ระดับ 1–5 คิดคะแนนโดยข้อคี่ใช้ (คะแนน − 1) ข้อคู่ใช้ (5 − คะแนน) รวมแล้วคูณ 2.5 ได้ 0–100 Sauro (2011) รายงานว่าค่าเฉลี่ยจาก 500 การศึกษาอยู่ที่ราว 68 ส่วน Bangor และคณะ (2008) ให้แนวการแปลความหมายคะแนน
ตัวอย่างที่ 2 SUS จากเจ้าหน้าที่ชลประทาน 5 คน และประสิทธิผล
import statistics as st
responses = [ # 10 ข้อ ระดับ 1–5
[4, 2, 4, 2, 4, 1, 4, 2, 3, 2],
[5, 1, 4, 2, 4, 2, 5, 1, 4, 3],
[3, 2, 3, 3, 4, 2, 4, 2, 3, 2],
[4, 2, 4, 1, 4, 2, 4, 2, 4, 2],
[4, 3, 3, 2, 3, 2, 4, 3, 3, 2],
]
def sus(r):
return 2.5 * sum((v - 1) if i % 2 == 0 else (5 - v) for i, v in enumerate(r))
scores = [sus(r) for r in responses]
print("SUS per user:", scores, f"mean {st.mean(scores):.1f}, lowest {min(scores)}")
manual = {"minutes per round": 180, "people": 2}
drone = {"minutes per round": 45, "people": 2}
saved = manual["minutes per round"] * manual["people"] - drone["minutes per round"] * drone["people"]
print(f"staff time saved per 2 km round: {saved} person-minutes ({saved / (manual['minutes per round'] * manual['people']):.0%})")
SUS per user: [75.0, 82.5, 65.0, 77.5, 62.5] mean 72.5, lowest 62.5
staff time saved per 2 km round: 270 person-minutes (75%)
ค่าเฉลี่ยสูงกว่าค่าเฉลี่ยอ้างอิงเล็กน้อย แต่ผู้ใช้สองคนต่ำกว่า 68 ควรสัมภาษณ์ว่าติดตรงไหน ห้าคนยังเป็นตัวอย่างน้อย และผลประหยัดเวลาต้องบอกด้วยว่าไม่รวมเวลาเตรียมเอกสารขออนุญาตบินและเวลาตรวจรายงาน
ทบทวนความเสี่ยงหลังทดสอบ
ผลทดสอบเป็นหลักฐานใหม่ที่ต้องนำกลับไปทบทวน FMEA จาก UAT 493 เช่น ถ้าพบว่า GNSS หายใกล้ต้นไม้สูงบ่อยกว่าคาด ต้องเพิ่มคะแนนโอกาสเกิดและเพิ่มมาตรการ ถ้าจะนำระบบไปใช้จริงนอกพื้นที่ทดสอบ ต้องประเมินตามกรอบความเสี่ยงของการปฏิบัติการ เช่น SORA ของ JARUS และตามกฎของ กพท.
ปฏิบัติการประจำโมดูล
ปฏิบัติการ: ประเมินหลังทดสอบ
- รวมชั่วโมงบินทดสอบและความล้มเหลวทั้งหมด คำนวณ MTBF ด้วยตัวอย่างที่ 1
- คำนวณจำนวนรอบที่ต้องใช้เพื่อยืนยันความน่าเชื่อถือ และเขียนระดับที่ข้อมูลรองรับจริง
- ให้ผู้ใช้จริงอย่างน้อยห้าคนลองใช้ระบบ ทำแบบสอบถาม SUS และสัมภาษณ์สั้น ๆ
- วัดเวลาเทียบวิธีเดิมอย่างเป็นระบบ รวมเวลาที่ซ่อนอยู่ เช่น การเตรียมและตรวจรายงาน
- ทบทวน FMEA ด้วยข้อมูลทดสอบ และบันทึกสิ่งที่เปลี่ยน
ข้อผิดพลาดที่พบบ่อย
ระวัง
- อ้างความน่าเชื่อถือสูงจากการทดสอบไม่กี่ครั้ง
- คิดคะแนน SUS ผิด โดยไม่กลับข้อคู่
- ให้ทีมพัฒนาเป็นผู้ตอบ SUS เอง
- เทียบประสิทธิผลโดยตัดเวลาที่ไม่เอื้อต่อระบบใหม่ออก
- ไม่ปรับ FMEA ตามผลทดสอบ
สรุป
- MTBF = เวลารวม/จำนวนความล้มเหลว และ R(t) = e^(−t/MTBF) เมื่ออัตราล้มเหลวคงที่
- การยืนยันความน่าเชื่อถือต้องใช้การทดสอบจำนวนมาก
- SUS คิดคะแนน 0–100 และเทียบกับค่าเฉลี่ยอ้างอิงราว 68
- ประเมินประสิทธิผลอย่างครบถ้วน และนำผลทดสอบกลับไปทบทวนความเสี่ยง
แบบฝึกตรวจความเข้าใจ
- บิน 30 ชั่วโมง ล้มเหลว 3 ครั้ง MTBF เท่าใด
- MTBF 20 ชั่วโมง ภารกิจ 1 ชั่วโมง ความน่าเชื่อถือเท่าใด
- ต้องทดสอบไม่ล้มเหลวกี่ครั้งเพื่อยืนยัน R ≥ 0.90 ที่ความเชื่อมั่น 90%
- SUS ตอบทุกข้อเป็น 3 ได้คะแนนเท่าใด
- ทดสอบ 60 ครั้งไม่ล้มเหลวเลย ขอบบน 95% ของอัตราความล้มเหลวประมาณเท่าใด
เฉลย
- ชั่วโมง
- จึงต้อง 22 ครั้ง
สรุปสูตรสำคัญ
| MTBF และความน่าเชื่อถือ | |
| จำนวนทดสอบแบบไม่มีความล้มเหลว | |
| คะแนน SUS |
แหล่งอ้างอิงหลัก
- NIST/SEMATECH. Exponential distribution (section 8.1.6.1). e-Handbook of statistical methods. link
- NIST/SEMATECH. Estimating the exponential parameter (section 8.4.5.1). e-Handbook of statistical methods. link
- Luko, S. N. (1997). Attribute reliability and the success run: A review (SAE Technical Paper 972753). SAE International. link
- Hanley, J. A., & Lippman-Hand, A. (1983). If nothing goes wrong, is everything all right? Interpreting zero numerators. JAMA, 249(13), 1743–1745. link
- Brooke, J. (1996). SUS: A 'quick and dirty' usability scale. In P. W. Jordan, B. Thomas, B. A. Weerdmeester, & I. L. McClelland (Eds.), Usability evaluation in industry (pp. 189–194). Taylor & Francis. link
- Brooke, J. (2013). SUS: A retrospective. Journal of Usability Studies, 8(2), 29–40. link
- Sauro, J. (2011, February 3). Measuring usability with the System Usability Scale (SUS). MeasuringU. link
- Bangor, A., Kortum, P. T., & Miller, J. T. (2008). An empirical evaluation of the System Usability Scale. International Journal of Human–Computer Interaction, 24(6), 574–594. link
- Joint Authorities for Rulemaking on Unmanned Systems. (2024). JARUS guidelines on Specific Operations Risk Assessment (SORA), main body, edition 2.5 (JAR-DEL-SRM-SORA-MB-2.5). link
อ่านเพิ่มเติม
ศึกษาหน่วยความรู้ที่กำหนดล่วงหน้า ดูสื่อประกอบ และทำ quiz ประจำโมดูล
ในชั้นเรียน / ภาคสนาม
พัฒนาโครงงานเป็นทีม ประชุมที่ปรึกษา และนำเสนอความก้าวหน้า
หลักฐานการเรียนรู้: ผลงานตามจุดตรวจของโครงงาน