AI ใช้อย่างมั่นใจ ด้วยกรอบ Trust–Risk–Security (AI TRiSM)
ในปัจจุบัน ปัญญาประดิษฐ์ (AI) ได้กลายเป็นเครื่องมือสำคัญที่ขับเคลื่อนประสิทธิภาพและสร้างนวัตกรรมให้กับองค์กร แต่การนำ AI มาใช้ในการตัดสินใจที่มีผลกระทบสูง เช่น การพิจารณาสินเชื่อหรือการวินิจฉัยทางการแพทย์ ก็มาพร้อมกับความท้าทายและความเสี่ยงที่สูงเช่นกัน ความเสี่ยงเหล่านี้รวมถึงปัญหาที่ AI อาจสร้างข้อมูลขึ้นมาเอง (Hallucination), การสร้างเนื้อหาปลอม (Deepfake), ความกังวลด้านลิขสิทธิ์, และความไม่มั่นคงปลอดภัยทางไซเบอร์ เพื่อจัดการกับความเสี่ยงเหล่านี้และสร้างความเชื่อมั่นให้กับผู้ใช้งาน แนวคิด AI TRiSM (ซึ่งย่อมาจาก AI Trust, Risk, and Security Management) จึงได้รับการแนะนำโดย Gartner ในการจัดการธรรมาภิบาลของ AI ที่มีความสำคัญอย่างยิ่งต่อองค์กรในยุคดิจิทัล
AI TRiSM คือ กรอบแนวคิดที่สนับสนุนการกำกับดูแลโมเดล AI ในเรื่องความน่าเชื่อถือ ความเป็นธรรม ความแข็งแกร่ง ประสิทธิภาพ และการปกป้องข้อมูล เพื่อให้มั่นใจว่า AI ทำงานอย่างเป็นธรรมและมีความรับผิดชอบ
AI TRiSM ครอบคลุมองค์ประกอบหลัก 3 ด้าน:
1. Trust (ความไว้วางใจ/ความน่าเชื่อถือ): มุ่งเน้นการสร้างความเชื่อมั่น โดยทำให้ AI มี:
• ความโปร่งใส (Transparency): สามารถอธิบายได้ว่า AI ตัดสินใจได้อย่างไร
• ความเป็นธรรม (Fairness): ระบบต้องไม่เลือกปฏิบัติหรือสร้างความลำเอียงต่อกลุ่มคนบางกลุ่ม เช่น เพศ เชื้อชาติ หรืออายุ
• ความสามารถในการตรวจสอบ (Auditability): สามารถติดตามและประเมินการทำงานของ AI ได้
2. Risk (ความเสี่ยง): มุ่งเน้นการระบุ ประเมิน และลดความเสี่ยงที่เกิดจากการใช้งาน AI ความเสี่ยงอาจเกิดจากข้อมูลที่มีอคติ (Bias), ความไม่สมบูรณ์ของข้อมูล, หรือการทำงานผิดพลาดของ AI AI TRiSM จึงมุ่งเน้นที่การประเมินและจัดการความเสี่ยงที่อาจเกิดขึ้นจากการใช้ระบบ AI เช่น ความเสี่ยงด้านความเป็นส่วนตัว ความเสี่ยงด้านความปลอดภัย และความเสี่ยงด้านจริยธรรม
3. Security (ความมั่นคง/ความปลอดภัย): มุ่งเน้นการปกป้องระบบ AI และข้อมูลอ่อนไหวที่เกี่ยวข้องจากการโจมตีทางไซเบอร์ เช่น การโจมตีด้วยมัลแวร์ หรือการเข้าถึงข้อมูลโดยไม่ได้รับอนุญาต วิธีการรวมถึงการใช้ การเข้ารหัสข้อมูล (Encryption), การควบคุมการเข้าถึง (Access control), และการตรวจสอบบันทึกกิจกรรมทั้งหมดที่เกิดขึ้นภายในระบบ
ความสำคัญและเหตุผลที่องค์กรต้องใช้ AI TRiSM:
• การปฏิบัติตามกฎระเบียบ (Compliance): ช่วยให้องค์กรปฏิบัติตามกฎหมายควบคุมข้อมูลส่วนบุคคลและมาตรฐานที่เกี่ยวข้อง
• การป้องกันความเสี่ยงด้านความลับ: ป้องกันไม่ให้ข้อมูลความลับขององค์กรตกเข้าไปอยู่ในโมเดล AI ของผู้ให้บริการภายนอก
• การป้องกันภัยคุกคามไซเบอร์รูปแบบใหม่: เครื่องมือรักษาความปลอดภัยแบบดั้งเดิมอาจไม่สามารถตรวจจับความเสี่ยงใหม่ๆ ที่มาจาก GenAI ได้ AI TRiSM จึงช่วยพัฒนาเทคนิคการป้องกันที่เฉพาะเจาะจง
AI TRiSM สามารถนำไปใช้งานได้อย่างกว้างขวางในหลายภาคส่วน
- การตลาดและโฆษณา : AI ถูกนำมาใช้ในการวิเคราะห์พฤติกรรมผู้บริโภคและสร้างโฆษณาที่ตรงเป้าหมาย ป้องกันการละเมิดความเป็นส่วนตัว และการใช้อคติในการวิเคราะห์ และทำให้มั่นใจว่าข้อมูลผู้บริโภคถูก เก็บรักษาอย่างปลอดภัย และใช้งานตามกฎหมาย
- การประกันภัย : บริษัทประกันภัยใช้ AI ในการวิเคราะห์ความเสี่ยงของลูกค้าเพื่อกำหนดอัตราเบี้ยประกัน AI TRiSM ถูกนำมาใช้เพื่อให้มั่นใจว่าการประเมินความเสี่ยงมีความยุติธรรมและไม่มีการเลือกปฏิบัติ ช่วยตรวจสอบว่า AI ประเมินความเสี่ยงของลูกค้าอย่างถูกต้องและไม่มีอคติ และบริษัทสามารถ อธิบายให้ผู้เอาประกันทราบได้ว่าเหตุใดเบี้ยประกันของพวกเขาจึงสูงหรือต่ำ
- ภาครัฐและการบริหารจัดการ : ภาครัฐใช้ AI ในการตรวจสอบข้อมูลและดำเนินงาน เช่น การจัดการการขอวีซ่า หรือการวิเคราะห์ข้อมูลจากระบบกล้องวงจรปิด AI TRiSMช่วยรับรองความโปร่งใสและความเป็นธรรมว่าระบบAI ถูกฝึกให้ทำงานอย่างเป็นกลาง โดยไม่เลือกปฏิบัติบนพื้นฐานของเชื้อชาติหรือศาสนา การใช้ข้อมูลส่วนบุคคลในการประมวลผลด้วย AI ต้องมีการรักษาความปลอดภัยอย่างเข้มงวด การตัดสินใจของ AI ในการอนุมัติหรือปฏิเสธต้องสามารถอธิบายได้เพื่อให้มีความโปร่งใส
AI TRiSM คือ กรอบที่จะช่วยให้องค์กรใช้ AI ได้อย่างสบายใจ เพราะช่วยดูแลทั้งเรื่องความน่าเชื่อถือ ความเสี่ยง และความปลอดภัยไปพร้อม ๆ กัน ถ้าองค์กรมีกรอบนี้ ก็จะลดปัญหาข้อมูลรั่ว ผลลัพธ์ผิดพลาด หรือความเสี่ยงด้านกฎหมาย แถมยังสร้างความมั่นใจให้ทั้งพนักงานและลูกค้าได้มากขึ้น สุดท้ายแล้ว AI TRiSM คือ เครื่องมือที่จะทำให้การใช้ AI ขององค์กรเป็นไปอย่างมั่นคงและสร้างคุณค่าได้จริง
องค์ความรู้ที่ใช้ เเละ/หรือ รหัสความรู้ในระบบ KMIM Centre หัวข้อ แผนแสวงหาความรู้ (Knowledge Acquisition Plan)
• S3 กระบวนการจัดการระบบดิจิทัลเทคโนโลยี
• M1 กระบวนการกำกับดูแลองค์กรและการพัฒนาที่ยั่งยืน - หลักการกำกับดูแลกิจการที่ดี (Good Governance)
แหล่งอ้างอิง ที่มาของข้อมูล หนังสือ วารสารวิชาการ เว็บไซต์ เป็นต้น
• ADPT News. (2024, March 25). AI TRiSM คืออะไร? ADPT News. https://www.adpt.news/2024/03/25/what-is-ai-trism/
• Solutions Impact. (2024). AI TRiSM คืออะไร? AI Cybersecurity ใช้ AI ยังไงให้ปลอดภัย. Solutions Impact. https://solutionsimpact.com/blog/ai-trism/
• Ecom. (2024). AI ในยุคใหม่ : ความน่าเชื่อถือ ความเสี่ยง และการจัดการความปลอดภัย. Ecom. https://shorturl.at/r8rja
• Splunk. (2024). The importance of AI TRiSM today: AI trust, risk, and security management, explained. Splunk. https://www.splunk.com/en_us/blog/learn/ai-trism-ai-trust-risk-security-management.html
