AI/IT

AI เป็นคำย่อของ ‘Artificial Intelligence’ หมายถึง เทคโนโลยีปัญญาประดิษฐ์ที่ทำให้คอมพิวเตอร์สามารถคิดและเรียนรู้ได้ในลักษณะคล้ายมนุษย์

AI ครอบคลุมเทคโนโลยีหลากหลายประเภท เช่น การเรียนรู้ของเครื่อง การประมวลผลภาษาธรรมชาติ การรู้จำเสียง และการรู้จำภาพ และกำลังส่งผลต่ออุตสาหกรรมต่าง ๆ มากขึ้น

AI สามารถเรียนรู้ คาดการณ์ และตัดสินใจได้ด้วยตนเองโดยอาศัยข้อมูล

IT เป็นคำย่อของ ‘Information Technology’ หมายถึง เทคโนโลยีสารสนเทศซึ่งเป็นแนวคิดที่ครอบคลุมเทคโนโลยีทั้งหมดที่เกี่ยวข้องกับคอมพิวเตอร์ ซอฟต์แวร์ และเครือข่าย และสนับสนุนการรวบรวม จัดเก็บ ส่งต่อ และประมวลผลข้อมูล

IT เป็นองค์ประกอบสำคัญที่ช่วยเพิ่มประสิทธิภาพการดำเนินงานขององค์กร ปรับปรุงประสบการณ์ของลูกค้า และก่อให้เกิดนวัตกรรมในอุตสาหกรรมหลากหลายสาขา

องค์กรที่พัฒนาและดำเนินการบริการหรือระบบที่ใช้ AI ต้องจัดให้มีหลักจริยธรรม AI ความสามารถในการอธิบาย การไม่เลือกปฏิบัติ และความโปร่งใส

รัฐบัญญัติ AI ของสหภาพยุโรป ค.ศ. 2024 ร่างรัฐบัญญัติกรอบพื้นฐานด้าน AI ของสาธารณรัฐเกาหลีซึ่งอยู่ระหว่างการประกาศรับฟังความคิดเห็น และแนวทางการบริหารความเสี่ยงด้าน AI ของ NIST ต่างกำหนดให้ความโปร่งใสของ AI การป้องกันอคติของข้อมูล และความสามารถในการอธิบายอัลกอริทึมเป็นหลักเกณฑ์สำคัญ

ดังนั้น ในการพัฒนาแบบจำลอง AI จึงจำเป็นต้องดำเนินการ ① ตรวจสอบอคติของชุดข้อมูลล่วงหน้า ② จัดทำเอกสารเกี่ยวกับความสามารถในการอธิบายของ AI ③ นำกระบวนการตรวจสอบจริยธรรม AI มาใช้ และ ④ แต่งตั้งผู้รับผิดชอบด้าน AI และดำเนินงานคณะกรรมการจริยธรรม

เมื่อมีการรวบรวม วิเคราะห์ หรือใช้ข้อมูลส่วนบุคคลในการพัฒนาและดำเนินงาน AI ต้องปฏิบัติตามรัฐบัญญัติคุ้มครองข้อมูลส่วนบุคคลของสาธารณรัฐเกาหลีและรัฐบัญญัติของสาธารณรัฐเกาหลีว่าด้วยเครือข่ายข้อมูลข่าวสารและการสื่อสาร

โดยเฉพาะเมื่อรวบรวมข้อมูลระบุตัวบุคคล ภาพ หรือข้อมูลตำแหน่งเพื่อใช้เป็นข้อมูลฝึกสอน AI หากไม่ปฏิบัติตามเงื่อนไขเกี่ยวกับความยินยอมและมาตรการทำให้ไม่สามารถระบุตัวบุคคลได้ อาจถูกกำหนดเงินเพิ่มเชิงลงโทษทางปกครองหรือถูกลงโทษทางอาญา

ดังนั้น จึงจำเป็นต้อง① ประเมินผลกระทบต่อข้อมูลส่วนบุคคลของชุดข้อมูลฝึกสอน AI ② ระบุรายละเอียดในหนังสือยินยอมให้รวบรวมและใช้ข้อมูลส่วนบุคคล ③ ใช้มาตรการทำให้ไม่สามารถระบุตัวบุคคลและตรวจสอบความเหมาะสม และ ④ นำแนวทางการคุ้มครองข้อมูลส่วนบุคคลตั้งแต่ขั้นตอนการออกแบบระบบ AI (Privacy by Design) มาใช้

หากบริการ AI ก่อให้เกิดการเลือกปฏิบัติจากอัลกอริทึมโดยไม่เจตนา เช่น จากเชื้อชาติ เพศ อายุ หรือถิ่นกำเนิด องค์กรอาจถูกวิพากษ์วิจารณ์ทางสังคมและได้รับมาตรการลงโทษทางกฎหมาย

ดังนั้น จึงจำเป็นต้อง① ดำเนินกระบวนการวิเคราะห์ผลการตัดสินใจของ AI และตรวจสอบอคติ ② กำหนดหลักเกณฑ์ตรวจสอบความเป็นธรรมของอัลกอริทึม ③ จัดทำชุดข้อมูลเพื่อลดความเสี่ยงจากอคติ และ ④ ตรวจสอบจริยธรรม AI เป็นประจำ

ปัญหาเกี่ยวกับผู้ทรงลิขสิทธิ์ในข้อมูลฝึกสอน AI และเนื้อหาที่สร้างโดย AI รวมถึงการละเมิดสิทธิ เกิดขึ้นบ่อยครั้ง

ประเด็นสำคัญ ได้แก่ เนื้อหาที่ AI สร้างขึ้นได้รับความคุ้มครองลิขสิทธิ์หรือไม่ สามารถนำผลงานของผู้อื่นไปฝึกสอน AI โดยไม่ได้รับอนุญาตได้หรือไม่ และสิทธิในผลงานที่ AI สร้างขึ้นเป็นของผู้ใด

เพื่อป้องกันความเสี่ยงดังกล่าว จำเป็นต้อง① ตรวจสอบสิทธิและจัดการใบอนุญาตเมื่อรวบรวมข้อมูลฝึกสอน AI ② จัดทำสัญญากำหนดผู้ทรงสิทธิในผลงานที่ AI สร้างขึ้น ③ ตรวจสอบล่วงหน้าว่าข้อมูลฝึกสอน AI ละเมิดลิขสิทธิ์หรือไม่ และ ④ ระบุข้อกำหนดเรื่องผู้ทรงสิทธิไว้ในเงื่อนไขการใช้เนื้อหา AI ให้ชัดเจน

เมื่อระบบ AI หรือบริการ IT ถูกเจาะระบบ ถูกโจมตีด้วยแรนซัมแวร์ หรือเกิดเหตุข้อมูลส่วนบุคคลรั่วไหล อาจมีการลงโทษทางอาญาและความรับผิดในการชดใช้ค่าเสียหายตามรัฐบัญญัติของสาธารณรัฐเกาหลีว่าด้วยเครือข่ายข้อมูลข่าวสารและการสื่อสารและรัฐบัญญัติคุ้มครองข้อมูลส่วนบุคคลของสาธารณรัฐเกาหลี

โดยเฉพาะองค์กรที่ดำเนินบริการ SaaS บนพื้นฐาน AI โครงสร้างพื้นฐานระบบคลาวด์ หรือโรงงานอัจฉริยะ จำเป็นต้องมีมาตรการรับมือด้านความมั่นคงปลอดภัยทางไซเบอร์

เพื่อการนี้ จำเป็นต้อง① ขอรับการรับรองระบบบริหารจัดการความมั่นคงปลอดภัยสารสนเทศ (ISMS) ② ตรวจสอบช่องโหว่ของระบบ AI ③ จัดทำคู่มือรับมือภัยคุกคามด้านความมั่นคงปลอดภัยของ AI และ ④ จัดทำสถานการณ์จำลองการรับมือเหตุข้อมูลส่วนบุคคลรั่วไหล

หากองค์กรแพลตฟอร์มหรือ IT ใช้สถานะที่เหนือกว่าในการทำธุรกรรมกับผู้ประกอบการบนแพลตฟอร์มหรือผู้จัดหาเนื้อหาโดยมิชอบ บิดเบือนค่าธรรมเนียมโฆษณาหรืออันดับการค้นหา หรือเปลี่ยนเงื่อนไขการทำธุรกรรมฝ่ายเดียว อาจถูกกำหนดเงินเพิ่มเชิงลงโทษทางปกครองหรือได้รับคำสั่งให้แก้ไขตามรัฐบัญญัติของสาธารณรัฐเกาหลีว่าด้วยการควบคุมการผูกขาดและการค้าที่เป็นธรรม

โดยเฉพาะความเป็นธรรมของระบบแนะนำ โฆษณา และกำหนดราคาที่ใช้อัลกอริทึม AI เป็นประเด็นสำคัญ

เพื่อจัดการประเด็นดังกล่าว จำเป็นต้อง① จัดให้มีความโปร่งใสของอัลกอริทึม ② ใช้สัญญามาตรฐานกับผู้ประกอบการบนแพลตฟอร์ม ③ ตรวจสอบการกระทำอันไม่เป็นธรรมในการทำธุรกรรมผ่านแพลตฟอร์มล่วงหน้า และ ④ ดำเนินโครงการกำกับดูแลการปฏิบัติตามกฎหมายว่าด้วยการค้าที่เป็นธรรมของแพลตฟอร์ม

บริการที่ใช้ปัญญาประดิษฐ์ (AI) มีความเสี่ยงทางกฎหมายหลายด้าน เช่น ปัญหาเกี่ยวกับผู้ทรงสิทธิใน ‘ผลงานที่ AI สร้างขึ้น’ และการฝ่าฝืนหลักเกณฑ์ ‘จริยธรรม AI’

โดยเฉพาะเมื่อใช้ AI เพื่อให้คำตัดสินแก่ผู้ใช้โดยอัตโนมัติ หรือใช้ในการทำสัญญา พิจารณาสินเชื่อ คำนวณอัตราเบี้ยประกัน หรือประเมินบุคลากร ประเด็นสำคัญคือผู้ใดต้องรับผิดตามกฎหมายหากการตัดสินใจที่ไม่ถูกต้องก่อให้เกิดความเสียหายแก่ผู้บริโภค

แม้สาธารณรัฐเกาหลียังไม่ได้ตรากฎหมายเกี่ยวกับ AI ที่ชัดเจน แต่ความรับผิดเกี่ยวกับบริการ AI จะได้รับการพิจารณาตามกฎหมายที่ใช้บังคับอยู่ เช่น รัฐบัญญัติคุ้มครองข้อมูลส่วนบุคคลของสาธารณรัฐเกาหลี รัฐบัญญัติของสาธารณรัฐเกาหลีว่าด้วยการควบคุมการผูกขาดและการค้าที่เป็นธรรม และรัฐบัญญัติลิขสิทธิ์ของสาธารณรัฐเกาหลี

องค์กรควรตรวจสอบโครงสร้างการตัดสินใจของอัลกอริทึม AI อคติของข้อมูล และความเป็นไปได้ในการใช้ผิดวัตถุประสงค์หรือใช้ในทางมิชอบ พร้อมจัดทำเงื่อนไขการให้บริการและกระบวนการแจ้งข้อมูลเกี่ยวกับบริการ AI เพื่อลดความไม่ชัดเจนเกี่ยวกับความรับผิดทางกฎหมาย

นอกจากนี้ การจัดตั้งคณะกรรมการจริยธรรม AI และนำระบบรายงานการประเมินผลกระทบของ AI มาใช้ก็เป็นวิธีหนึ่งที่ช่วยป้องกันข้อพิพาททางกฎหมายได้

ในกระบวนการรวบรวมและใช้ข้อมูลส่วนบุคคลหรือข้อมูลที่ทำให้ไม่สามารถระบุตัวบุคคลเพื่อเพิ่มประสิทธิภาพของบริการ AI ต้องปฏิบัติตามรัฐบัญญัติคุ้มครองข้อมูลส่วนบุคคลของสาธารณรัฐเกาหลีและรัฐบัญญัติของสาธารณรัฐเกาหลีว่าด้วยเครือข่ายข้อมูลข่าวสารและการสื่อสาร

โดยเฉพาะเมื่อใช้ข้อมูลส่วนบุคคลเป็นข้อมูลฝึกสอน AI จะเกิดหน้าที่ต่าง ๆ เช่น การขอความยินยอมจากเจ้าของข้อมูล การระบุวัตถุประสงค์ในการรวบรวมและใช้ข้อมูลให้ชัดเจน การห้ามใช้นอกเหนือวัตถุประสงค์ และการทำสัญญามอบหมายการประมวลผลข้อมูล

องค์กรควรจัดทำธรรมาภิบาลข้อมูลอย่างเป็นระบบเพื่อป้องกันข้อพิพาททางกฎหมาย เช่น ประเมินผลกระทบต่อข้อมูลส่วนบุคคลของข้อมูลฝึกสอน AI และข้อมูลการดำเนินบริการ ปฏิบัติตามแนวทางการใช้นามแฝงกับข้อมูล และเปิดเผยนโยบายการประมวลผลข้อมูลของ AI

บริการ IT เช่น บริการแนะนำที่ใช้ AI ระบบตัดสินใจอัตโนมัติ และบริการวิเคราะห์ข้อมูล อาจส่งผลสำคัญต่อผู้บริโภค จึงมีหน้าที่เกี่ยวกับเงื่อนไขการให้บริการ กระบวนการขอความยินยอมจากผู้ใช้ และการแจ้งข้อจำกัดของบริการ

โดยเฉพาะต้องแจ้งให้ชัดเจนว่าคำแนะนำหรือคำตัดสินของ AI เป็นเพียงข้อมูลประกอบการพิจารณา หรือเป็นคำตัดสินที่ก่อให้เกิดหน้าที่ทางกฎหมายหรือทางเศรษฐกิจ รวมทั้งแจ้งถึงความเป็นไปได้ที่บริการ AI จะทำงานผิดปกติหรือเกิดข้อผิดพลาด

หากละเลยหน้าที่ดังกล่าว อาจเกิดหน้าที่ชดเชยความเสียหายแก่ผู้บริโภคและความรับผิดในการชดใช้ค่าเสียหายจากการฝ่าฝืนรัฐบัญญัติของสาธารณรัฐเกาหลีว่าด้วยการคุ้มครองผู้บริโภคในธุรกรรมพาณิชย์อิเล็กทรอนิกส์

ดังนั้น องค์กรควรปรับปรุงเงื่อนไขการใช้บริการ AI/IT และระบุข้อจำกัดความรับผิดทางกฎหมายและข้อจำกัดของบริการให้ชัดเจน

ข้อความ รูปภาพ ไฟล์เสียง และวิดีโอ เป็นต้น ที่ AI สร้างขึ้น มีประเด็นทางกฎหมายเกี่ยวกับ องค์ประกอบด้านความคิดสร้างสรรค์ ปัญหาการกำหนดว่าใครเป็นผู้สร้างสรรค์ และการได้รับความคุ้มครองลิขสิทธิ์หรือไม่

ตามกฎหมายของสาธารณรัฐเกาหลี AI ไม่ใช่บุคคลธรรมดา จึงไม่ได้รับการยอมรับว่าเป็นผู้สร้างสรรค์ และมีความเป็นไปได้สูงว่าสิทธิในผลงานที่สร้างขึ้นจะตกเป็นของบุคคลหรือนิติบุคคลที่ดำเนินงาน AI

อย่างไรก็ตาม หาก AI เรียนรู้จากผลงานของบุคคลที่ 3 แล้วนำมาดัดแปลง แปรรูปใหม่ หรือสร้างซ้ำในลักษณะที่คล้ายคลึงกัน อาจเกิดการละเมิดลิขสิทธิ์ได้

องค์กรต้องจัดให้มีกระบวนการตรวจสอบความชอบด้วยกฎหมายของข้อมูลฝึกสอน AI ความเป็นไปได้ในการจดทะเบียนลิขสิทธิ์ของผลงาน การละเมิดสิทธิของบุคคลที่ 3 และใบอนุญาตใช้สิทธิที่เกี่ยวข้อง

นอกจากนี้ ยังจำเป็นต้องกำหนดข้อกำหนดยกเว้นความรับผิดเกี่ยวกับเนื้อหาที่ AI สร้างขึ้น ตลอดจนกระบวนการขอให้ลบหรือแก้ไขเนื้อหาไว้ล่วงหน้า

เนื่องจากบริการ AI/IT ขยายตัวไปทั่วโลก จึงมีการจัดเก็บข้อมูลส่วนบุคคลไว้ในเซิร์ฟเวอร์ระบบคลาวด์ในต่างประเทศหรือแบ่งปันข้อมูลกับผู้ให้บริการต่างชาติมากขึ้น

ในกรณีดังกล่าว ต้องปฏิบัติตามกระบวนการที่เข้มงวดภายใต้รัฐบัญญัติคุ้มครองข้อมูลส่วนบุคคลของสาธารณรัฐเกาหลี เช่น ขอความยินยอมจากเจ้าของข้อมูล แจ้งวัตถุประสงค์ของการโอนข้อมูลไปต่างประเทศและข้อมูลของผู้รับมอบหมาย ประเมินความเหมาะสม และจัดทำแผนมาตรการคุ้มครอง

องค์กรควรควบคุมความเสี่ยงด้วยการระบุข้อมูลที่จะโอนไปต่างประเทศ ทำสัญญาการโอนข้อมูล ประเมินผลกระทบจากการโอนไปต่างประเทศ และจัดทำแผนมาตรการคุ้มครองข้อมูล รวมทั้งตรวจสอบระดับมาตรการคุ้มครองของผู้ให้บริการระบบคลาวด์ในต่างประเทศเป็นประจำ

บริการแนะนำด้วย AI ศูนย์การค้าออนไลน์ที่ใช้ AI และบริการแอปพลิเคชันต้องปฏิบัติตามกฎระเบียบเกี่ยวกับการโฆษณาและการแสดงข้อมูลทางออนไลน์

การโฆษณาอันเป็นเท็จ เกินจริง หรือหลอกลวง การโฆษณาที่ใช้ข้อมูลส่วนบุคคลผิดวัตถุประสงค์หรือในทางมิชอบ และการไม่แสดงว่าเนื้อหาจากบริการแนะนำอัตโนมัติด้วย AI มีลักษณะเป็นโฆษณา อาจเป็นการฝ่าฝืนรัฐบัญญัติของสาธารณรัฐเกาหลีว่าด้วยการแสดงฉลากและการโฆษณาที่เป็นธรรม และอาจถูกกำหนดเงินเพิ่มเชิงลงโทษทางปกครองหรือถูกลงโทษทางอาญา

โดยเฉพาะโซลูชันโฆษณาที่ใช้ AI มีการกำหนดเป้าหมายโดยอัตโนมัติและแสดงโฆษณาเฉพาะบุคคล จึงมีโอกาสทำให้ผู้บริโภคเข้าใจผิดสูง ต้องแจ้งให้ชัดเจนว่าเป็นโฆษณาและขอความยินยอมจากผู้ใช้

องค์กรควรตรวจสอบข้อความโฆษณา วิธีแสดงข้อมูล ความโปร่งใสของกระบวนการแนะนำด้วย AI กลุ่มผู้บริโภคเป้าหมายของโฆษณา และเอกสารอธิบายอัลกอริทึม AI เพื่อป้องกันความเสี่ยงจากการฝ่าฝืนล่วงหน้า

1. ข้อกำหนดทางกฎหมายเกี่ยวกับการพัฒนาและดำเนินบริการ AI

□ตรวจสอบว่าเงื่อนไขการใช้บริการ AI และนโยบายการประมวลผลข้อมูลส่วนบุคคลแจ้งถึงฟังก์ชันการตัดสินใจอัตโนมัติของ AI และข้อจำกัดไว้หรือไม่

□ตรวจสอบว่าได้นำหลักจริยธรรม AI และกระบวนการประเมินผลกระทบด้านสิทธิมนุษยชนของ AI มาใช้หรือไม่

□ตรวจสอบการเลือกปฏิบัติ อคติ หรือการบิดเบือนในกระบวนการพัฒนาและดำเนินงานอัลกอริทึม AI รวมทั้งจัดทำระบบบริหารความเสี่ยงหรือไม่

2. การคุ้มครองข้อมูลส่วนบุคคลและการจัดการข้อมูล
□ตรวจสอบว่าข้อมูลฝึกสอน AI มีข้อมูลส่วนบุคคลหรือไม่ และได้รับหนังสือยินยอมแล้วหรือไม่

□ตรวจสอบว่าได้ปฏิบัติตามกระบวนการทำให้ไม่สามารถระบุตัวบุคคล การใช้นามแฝงกับข้อมูล และการห้ามใช้นอกเหนือวัตถุประสงค์หรือไม่

□ตรวจสอบว่าได้จัดทำสัญญามอบหมายการประมวลผลข้อมูลส่วนบุคคลและระบบบริหารผู้รับมอบหมายหรือไม่

3. การคุ้มครองทางกฎหมายสำหรับผลงานที่ AI สร้างขึ้นและความเสี่ยงด้านลิขสิทธิ์
□ตรวจสอบว่าได้กำหนดผู้ทรงลิขสิทธิ์ในเนื้อหาที่ AI สร้างขึ้นและจัดทำแนวทางภายในองค์กรหรือไม่

□ตรวจสอบว่าได้รับใบอนุญาตโดยชอบด้วยกฎหมายสำหรับผลงานต้นฉบับที่ AI ใช้ฝึกสอนหรือไม่

□ตรวจสอบว่าได้จัดทำกระบวนการรับคำขอจากผู้ใช้ให้ลบหรือแก้ไขเนื้อหา AI หรือไม่

□ตรวจสอบว่าได้ระบุข้อจำกัดความรับผิดทางกฎหมายเกี่ยวกับผลงานที่ AI สร้างขึ้นไว้ในเงื่อนไขการให้บริการหรือไม่

4. การปฏิบัติตามข้อกำหนดด้านการโฆษณาและการแสดงข้อมูลของบริการ AI/IT
□ตรวจสอบว่ามีการแสดงและแจ้งลักษณะการโฆษณาของบริการแนะนำ การตัดสินใจอัตโนมัติ และโฆษณาที่ใช้ AI หรือไม่

□ตรวจสอบล่วงหน้าว่ามีการโฆษณาอันเป็นเท็จ เกินจริง หรือหลอกลวง รวมถึงข้อความโฆษณาที่อาจทำให้ผู้ใช้เข้าใจผิดหรือไม่

□ตรวจสอบว่าได้รับหนังสือยินยอมให้รวบรวมและใช้ข้อมูลส่วนบุคคลสำหรับโฆษณาที่กำหนดเป้าหมายเฉพาะบุคคลหรือไม่

5. การจัดทำระบบบริหารองค์กรอย่างมีจริยธรรมด้าน AI/IT
□ตรวจสอบว่าได้จัดทำหลักจริยธรรม AI และดำเนินงานคณะกรรมการจริยธรรม AI ภายในองค์กรหรือไม่

□ตรวจสอบว่ามีการประเมินความเสี่ยงด้านผลกระทบทางสังคม สิทธิมนุษยชน และการเลือกปฏิบัติของบริการ AI เป็นประจำหรือไม่

□ตรวจสอบว่าได้จัดทำและเปิดเผยรายงานการตรวจสอบด้านจริยธรรม AI ต่อสาธารณะหรือไม่

6. การคุ้มครองสารสนเทศและการบริหารความมั่นคงปลอดภัย

□ตรวจสอบช่องโหว่ด้านความมั่นคงปลอดภัยของระบบ AI/IT เป็นประจำและดำเนินระบบรับมือความเสี่ยงหรือไม่

□ตรวจสอบว่าได้จัดทำคู่มือรับมือและจัดตั้งทีมรับมือเหตุฉุกเฉินเมื่อเกิดเหตุข้อมูลรั่วไหลหรือไม่