รัฐบัญญัติพื้นฐานว่าด้วย AI ของสาธารณรัฐเกาหลี

กฎหมายดังกล่าวกำหนดให้จัดตั้งคณะกรรมการยุทธศาสตร์ปัญญาประดิษฐ์แห่งชาติซึ่งมีประธานาธิบดีเป็นประธาน และให้จัดทำแผนพื้นฐานด้านปัญญาประดิษฐ์ทุก 3 ปี จึงเป็นการวางโครงสร้างสำหรับบริหารนโยบายและมาตรฐานการกำกับดูแลปัญญาประดิษฐ์ในระดับประเทศอย่างบูรณาการ

บทบัญญัตินี้มีเจตนารมณ์เพื่อรวมนโยบายและการกำกับดูแลที่เคยกระจายอยู่ตามหน่วยงานต่าง ๆ เข้าไว้ในระบบเดียวเพื่อให้เกิดความสอดคล้อง

สำหรับบริษัท บทบัญญัตินี้หมายถึงการกำหนดมาตรฐานที่ชัดเจนพร้อมกับรับรองความรับผิดทางกฎหมายในการปฏิบัติตามมาตรฐานดังกล่าวไว้อย่างเป็นทางการ

กฎหมายดังกล่าวมิได้มุ่งกำกับดูแลโดยไม่มีข้อยกเว้น แต่ใช้รูปแบบที่สมดุลโดยดำเนินนโยบายส่งเสริมอุตสาหกรรมควบคู่กัน เช่น การสนับสนุนการวิจัยและพัฒนา (R&D) การสร้างรากฐานสำหรับการทดสอบเชิงประจักษ์ และการจัดทำข้อมูลเพื่อการเรียนรู้

ด้วยเหตุนี้ บริษัทจึงมีโอกาสใช้ประโยชน์จากการสนับสนุนเชิงนโยบาย ขณะเดียวกันก็ต้องรับผิดทางกฎหมายต่อการใช้ปัญญาประดิษฐ์ที่ไม่สามารถรับรองความปลอดภัยและความน่าเชื่อถือได้

หลักเกณฑ์สำคัญที่ส่งผลโดยตรงต่อการปฏิบัติงานของบริษัทประกอบด้วยหน้าที่ในการรับรองความโปร่งใส หน้าที่ในการรับรองความปลอดภัย และหน้าที่ของผู้ประกอบธุรกิจปัญญาประดิษฐ์ที่มีผลกระทบสูงตามที่รัฐบัญญัติพื้นฐานว่าด้วยปัญญาประดิษฐ์ของสาธารณรัฐเกาหลีกำหนด

เนื่องจากรายละเอียดของหลักเกณฑ์เหล่านี้จะได้รับการกำหนดเป็นลำดับผ่านกฎหมายลำดับรองและแนวทางปฏิบัติ จึงควรเตรียมการล่วงหน้าให้สอดคล้องกับโครงสร้างบทบัญญัติ

หน้าที่ในการรับรองความโปร่งใสของปัญญาประดิษฐ์ (มาตรา 31)

หน้าที่ในการรับรองความปลอดภัยของปัญญาประดิษฐ์ (มาตรา 32)

หน้าที่ของผู้ประกอบธุรกิจปัญญาประดิษฐ์ที่มีผลกระทบสูง (มาตรา 34)

รัฐบัญญัติพื้นฐานว่าด้วยปัญญาประดิษฐ์ของสาธารณรัฐเกาหลีกำหนดความหมายของปัญญาประดิษฐ์ที่มีผลกระทบสูงไว้ดังต่อไปนี้

ปัญญาประดิษฐ์ที่มีผลกระทบสูงคืออะไร (มาตรา 2 แห่งรัฐบัญญัติพื้นฐานว่าด้วยปัญญาประดิษฐ์ของสาธารณรัฐเกาหลี)

ด้วยเหตุนี้ จึงต้องพิจารณาควบคู่กันว่าฟังก์ชัน AI ของบริษัทมี “ผลกระทบอย่างแท้จริง” ต่อกระบวนการตัดสินใจหลักในด้านดังกล่าวหรือไม่

ควรให้ความระมัดระวังเป็นพิเศษเมื่อมีการประเมิน การจำแนก หรือการตัดสินใจโดยอัตโนมัติในอุตสาหกรรมสำคัญ เช่น การรับสมัครและบริหารบุคลากร บริการทางการเงิน การแพทย์ และพลังงาน

ขอบเขตหน้าที่ที่ใช้บังคับอาจแตกต่างกันตามโครงสร้างของระบบ กล่าวคือ ปัญญาประดิษฐ์เป็นผู้ตัดสินใจขั้นสุดท้ายโดยปราศจากการแทรกแซงของมนุษย์ หรือมนุษย์สามารถตรวจสอบ แก้ไข หรือระงับการตัดสินใจดังกล่าวได้

ดังนั้น บริษัทจึงควรจัดทำกระบวนการปฏิบัติงานโดยกำหนดให้มนุษย์สามารถควบคุมระบบได้ตั้งแต่ขั้นตอนการออกแบบระบบปัญญาประดิษฐ์

บริษัทที่ดำเนินงานปัญญาประดิษฐ์ที่มีผลกระทบสูงต้องจัดทำระบบบริหารความเสี่ยงตลอดวงจรชีวิตของปัญญาประดิษฐ์ และแจ้งผู้ใช้อย่างชัดเจนเกี่ยวกับข้อเท็จจริงในการใช้ปัญญาประดิษฐ์และเหตุผลประกอบการตัดสินใจ

นอกจากนี้ ต้องจัดให้มีมาตรการคุ้มครองที่เฉพาะเจาะจง เช่น การป้องกันอคติของอัลกอริทึม การจัดทำกระบวนการเยียวยาความเสียหาย การกำกับดูแลโดยมนุษย์ และระบบระงับการทำงานในกรณีฉุกเฉิน พร้อมทั้งจัดทำและเก็บรักษารายละเอียดดังกล่าวไว้ในเอกสารด้านความปลอดภัยและความน่าเชื่อถือ

รัฐบัญญัติพื้นฐานว่าด้วยปัญญาประดิษฐ์ของสาธารณรัฐเกาหลีได้รับการอธิบายว่าให้น้ำหนักกับการควบคุมทางปกครอง เช่น การสั่งระงับการกระทำที่ฝ่าฝืนและมาตรการแก้ไขภายหลังการตรวจสอบ มากกว่าการลงโทษทางอาญา

โดยเฉพาะกรณีที่ไม่แจ้งข้อเท็จจริงเกี่ยวกับการใช้ปัญญาประดิษฐ์ที่มีผลกระทบสูงหรือปัญญาประดิษฐ์เชิงสร้างสรรค์ หรือไม่ปฏิบัติหน้าที่ด้านการบริหารจัดการตามที่กฎหมายกำหนด อาจมีคำสั่งให้แก้ไข การตรวจสอบข้อเท็จจริง หรือมาตรการลงโทษทางปกครอง

ประเภทการฝ่าฝืนหน้าที่ที่สำคัญและระดับค่าปรับทางปกครอง

นอกเหนือจากคำสั่งทางปกครองแล้ว บริษัทยังต้องดำเนินการโดยสุจริตในการจัดระเบียบข้อเท็จจริง การยื่นเอกสาร และการปฏิบัติตามคำสั่งให้ปรับปรุงกระบวนการภายใน ซึ่งหมายความว่าค่าใช้จ่ายในการรับมือกับการตรวจสอบและการแก้ไขอาจกลายเป็นความเสี่ยงต่อการบริหารบริษัทโดยตรง

หากการตัดสินใจที่มีอคติหรือข้อผิดพลาดของปัญญาประดิษฐ์ละเมิดสิทธิขั้นพื้นฐานของผู้ใช้หรือเป็นการฝ่าฝืนหน้าที่คุ้มครองข้อมูลส่วนบุคคล บริษัทอาจต้องเผชิญกับคดีเรียกร้องค่าเสียหาย

นอกจากนี้ การปฏิบัติตามรัฐบัญญัติพื้นฐานว่าด้วยปัญญาประดิษฐ์ของสาธารณรัฐเกาหลีจะเป็นเกณฑ์สำคัญในการพิจารณาความประมาทเลินเล่อของบริษัท และหากเกิดข้อโต้แย้งด้านจริยธรรมก็อาจส่งผลกระทบระยะยาวต่อความน่าเชื่อถือและมูลค่าแบรนด์ของบริษัท

โดยเฉพาะอย่างยิ่ง อุบัติเหตุจากปัญญาประดิษฐ์เพียงครั้งเดียวอาจทำให้ความเสี่ยงภายนอกที่เกี่ยวข้องกับประเด็นด้านจริยธรรม การเลือกปฏิบัติ และความปลอดภัยขยายตัวอย่างรวดเร็ว

จึงควรใช้กลยุทธ์ที่ผนวกกลไกสร้างความไว้วางใจ เช่น การแจ้งผู้ใช้ ความสามารถในการอธิบาย การเยียวยาความเสียหาย และการกำกับดูแลโดยมนุษย์ ไว้ในประสบการณ์การใช้ผลิตภัณฑ์หรือบริการและนโยบายการดำเนินงาน

สำหรับบริษัทที่ยังไม่ทราบว่าระบบของตนเองหรือโซลูชันจากภายนอกมีปัญญาประดิษฐ์รวมอยู่ด้วย การจัดทำบัญชีรายการ AI ภายในเพื่อสำรวจสถานะการใช้ปัญญาประดิษฐ์ควรเป็นสิ่งที่ดำเนินการเป็นอันดับแรก

ในขั้นตอนนี้ ประเด็นสำคัญคือการระบุว่าปัญญาประดิษฐ์ส่งผลอย่างไรต่อโครงสร้างการตัดสินใจของบริษัท หรือสิทธิและโอกาสของลูกค้า

บริษัทที่กำลังขยายการนำปัญญาประดิษฐ์มาใช้หรือเตรียมเปิดตัวบริการใหม่ต้องออกแบบระบบการปฏิบัติตามกฎหมายทั่วทั้งองค์กรโดยให้ฝ่ายกฎหมาย IT ทรัพยากรบุคคล และความมั่นคงปลอดภัยร่วมมือกัน

ควรตรวจสอบล่วงหน้าว่าเข้าข่ายปัญญาประดิษฐ์ที่มีผลกระทบสูงหรือไม่ และปรับปรุงข้อบังคับภายในเกี่ยวกับการบริหารผลลัพธ์จากปัญญาประดิษฐ์เชิงสร้างสรรค์ เกณฑ์การใช้ข้อมูล และกระบวนการแทรกแซงโดยมนุษย์

หากมีข้อร้องเรียนหรืออุบัติเหตุเกี่ยวกับปัญญาประดิษฐ์เกิดขึ้นแล้ว หรือมีความเป็นไปได้ที่หน่วยงานกำกับดูแลจะตรวจสอบควรรับมือเชิงกลยุทธ์โดยตรวจสอบความเป็นไปได้ในการใช้มาตรการผ่อนผันการกำกับดูแลและการจัดทำเอกสารแสดงความพยายามรับรองความปลอดภัย เพื่อบรรเทาระดับมาตรการลงโทษ

ในระยะยาว ไม่ควรจำกัดอยู่เพียงการรับมือเป็นครั้งคราว แต่ต้องสร้างธรรมาภิบาลปัญญาประดิษฐ์ที่ยั่งยืนผ่านการจัดอบรมด้านจริยธรรมเป็นประจำ การติดตามประสิทธิภาพของโมเดลที่ลดลง และระบบรับมือการแก้ไขกฎหมายหรือแนวทางปฏิบัติ

สำนักงานกฎหมาย Daeryun ให้คำปรึกษาตั้งแต่ขั้นตอนการออกแบบโครงสร้าง โดยวินิจฉัยว่าระบบปัญญาประดิษฐ์ของบริษัทเข้าข่ายปัญญาประดิษฐ์ที่มีผลกระทบสูงหรือไม่ และสนับสนุนการบริหารความเสี่ยงทางกฎหมาย

เพื่อเตรียมรับการตรวจสอบข้อเท็จจริง คำสั่งให้แก้ไข และความเป็นไปได้ที่จะมีมาตรการลงโทษทางปกครองจากหน่วยงานกำกับดูแล จึงมีการจัดระเบียบข้อมูลเกี่ยวกับการปฏิบัติหน้าที่ของบริษัทอย่างเป็นระบบ พร้อมกำหนดกลยุทธ์รับการตรวจสอบและเหตุผลทางกฎหมายสำหรับการต่อสู้คดี

นอกเหนือจากการรับมือการกำกับดูแลในระยะสั้น ยังสนับสนุนการเติบโตอย่างมั่นคงของบริษัทผ่านการผนวกมาตรฐานจริยธรรมด้านปัญญาประดิษฐ์ไว้ภายในองค์กร การยกระดับระบบบริหารความเสี่ยง และการติดตามความเปลี่ยนแปลงของกฎหมายและแนวทางปฏิบัติอย่างต่อเนื่อง

สำนักงานกฎหมาย Daeryun ได้จัดตั้งกลุ่ม AI และ Data Intelligence ขึ้นใหม่ โดยมีโครงสร้าง 4 ฝ่าย ได้แก่ ▲ฝ่ายการปฏิบัติตามกฎหมายด้าน AI ▲ฝ่ายกลยุทธ์ Vertical AI ▲ฝ่ายความมั่นคงปลอดภัยไซเบอร์ & การรับมือภาวะวิกฤต และ ▲ฝ่ายนิติวิทยาศาสตร์ดิจิทัล & e-Discovery เพื่อรับมือความเสี่ยงทางกฎหมายเกี่ยวกับปัญญาประดิษฐ์อย่างครอบคลุม

แต่ละฝ่ายให้ความช่วยเหลือที่เชื่อมโยงกัน ตั้งแต่การตรวจสอบการปฏิบัติตามกฎหมายในกระบวนการนำปัญญาประดิษฐ์มาใช้และดำเนินงาน การออกแบบกลยุทธ์ AI ที่สะท้อนลักษณะเฉพาะของแต่ละอุตสาหกรรม การรับมือเหตุการณ์ด้านความมั่นคงปลอดภัยไซเบอร์ ไปจนถึงการวิเคราะห์พยานหลักฐานอิเล็กทรอนิกส์และการตรวจสอบข้อมูลขนาดใหญ่

การดำเนินงานดังกล่าวช่วยให้บริษัทสามารถรับมือข้อพิพาทด้านปัญญาประดิษฐ์และสภาพแวดล้อมด้านการกำกับดูแลที่ซับซ้อน ซึ่งผสานเทคโนโลยี ข้อมูล และกฎหมายเข้าด้วยกัน

การปฏิบัติตามรัฐบัญญัติพื้นฐานว่าด้วย AI ของสาธารณรัฐเกาหลีอาจเป็นโอกาสสำหรับบริษัทที่มีความพร้อม แต่สำหรับบริษัทที่ยังขาดการเตรียมการก็อาจก่อให้เกิดความเสี่ยงอย่างมีนัยสำคัญ

บริษัทควรพิจารณาจัดให้มีการวินิจฉัยล่วงหน้าและกลยุทธ์รับมือเป็นขั้นตอนที่เหมาะสมกับโครงสร้างการใช้ปัญญาประดิษฐ์ของตน