รัฐบัญญัติพื้นฐานว่าด้วย AI | ก่อนรัฐบัญญัติพื้นฐานว่าด้วย AI มีผลใช้บังคับในเดือน 1 ปีหน้า บริษัทควรเตรียมอะไรบ้าง?

รัฐบัญญัติพื้นฐานว่าด้วย AI หรือ 「รัฐบัญญัติกรอบพื้นฐานว่าด้วยการพัฒนาปัญญาประดิษฐ์และการสร้างรากฐานแห่งความไว้วางใจ ฯลฯ ของสาธารณรัฐเกาหลี」 ซึ่งเป็นกฎหมายฉบับแรกของสาธารณรัฐเกาหลีที่กำกับดูแลปัญญาประดิษฐ์อย่างครอบคลุม จะมีผลใช้บังคับตั้งแต่ปีหน้า

ด้วยเหตุนี้ สาธารณรัฐเกาหลีจะเป็นประเทศที่สองต่อจากสหภาพยุโรปที่จัดทำระบบกำกับดูแล AI แบบครอบคลุม

รัฐบัญญัติพื้นฐานว่าด้วย AI มุ่งสร้างสมดุลระหว่างการเติบโตของอุตสาหกรรมกับการคุ้มครองผู้ใช้และการบริหารความเสี่ยง

ด้วยเหตุนี้ บริษัทส่วนใหญ่ที่ให้บริการโดยใช้ AI ในภาคการผลิต แพลตฟอร์ม การเงิน และการดูแลสุขภาพ เป็นต้น จึงอาจได้รับผลกระทบโดยตรง

ต้นทุนในการรับมือและความเสี่ยงด้านกฎระเบียบอาจแตกต่างกันอย่างมากตามระดับการเตรียมความพร้อมล่วงหน้า

เนื้อหาต่อไปนี้สรุปสาระสำคัญของรัฐบัญญัติพื้นฐานว่าด้วย AI พร้อมแนวทางรับมือในทางปฏิบัติที่บริษัทควรเตรียมไว้ตั้งแต่ขณะนี้

รัฐบัญญัติพื้นฐานว่าด้วย AI กำหนดแนวคิดหลักไว้โดยตรงในกฎหมาย เพื่อให้หลักเกณฑ์ด้านการกำกับดูแล การคุ้มครอง และความรับผิดชัดเจนขึ้นภายใต้สภาพแวดล้อมทางเทคโนโลยี AI ที่เปลี่ยนแปลงอย่างรวดเร็ว

มาตรา 2 กำหนดนิยามพื้นฐานต่อไปนี้โดยมีระบบปัญญาประดิษฐ์เป็นศูนย์กลาง

∙ ปัญญาประดิษฐ์

: การนำความสามารถทางสติปัญญาของมนุษย์ เช่น การเรียนรู้ การอนุมาน การรับรู้ การตัดสินใจ และความเข้าใจภาษา มาดำเนินการด้วยวิธีการทางอิเล็กทรอนิกส์

∙ ปัญญาประดิษฐ์ที่มีผลกระทบสูง

: ระบบปัญญาประดิษฐ์ที่ส่งผลกระทบอย่างมีนัยสำคัญหรืออาจก่อให้เกิดความเสี่ยงต่อชีวิต ความปลอดภัยทางร่างกาย หรือสิทธิขั้นพื้นฐานของบุคคล

∙ ปัญญาประดิษฐ์เชิงสร้างสรรค์

: ระบบปัญญาประดิษฐ์ที่เลียนแบบโครงสร้างและลักษณะของข้อมูลที่ป้อนเข้าเพื่อสร้างข้อความ เสียง ภาพ วิดีโอ และผลลัพธ์ในรูปแบบอื่น ๆ

∙ อุตสาหกรรมปัญญาประดิษฐ์

: อุตสาหกรรมที่พัฒนา ผลิต จัดทำ หรือจำหน่ายผลิตภัณฑ์ที่ใช้ปัญญาประดิษฐ์หรือเทคโนโลยีปัญญาประดิษฐ์ หรือให้บริการที่เกี่ยวข้อง

∙ ผู้ประกอบธุรกิจปัญญาประดิษฐ์

: ผู้ดำเนินธุรกิจที่เกี่ยวข้องกับอุตสาหกรรมปัญญาประดิษฐ์ ซึ่งเป็นนิติบุคคล องค์กร บุคคล หรือหน่วยงานของรัฐ เป็นต้น ที่เข้าข่ายข้อใดข้อหนึ่งดังต่อไปนี้

ดังนั้น ไม่เพียงแต่ซอฟต์แวร์ AI เท่านั้น แต่ยังรวมถึงหุ่นยนต์ที่ติดตั้งซอฟต์แวร์ดังกล่าว อุปกรณ์อัตโนมัติที่ใช้เซนเซอร์ และอุปกรณ์เอดจ์ ซึ่งอาจอยู่ภายใต้การกำกับดูแลทั้งหมด

บทนิยามที่ชัดเจนทำให้บริษัทสามารถระบุได้ว่า “บริการใดของบริษัทเป็น AI และจัดอยู่ในประเภทใด”

มาตรา 27 แห่งรัฐบัญญัติพื้นฐานว่าด้วย AI กำหนดไว้อย่างชัดเจนว่ารัฐบาลเป็นผู้รับผิดชอบหลักในการแก้ไขปัญหาด้านจริยธรรมของ AI

รัฐบาลจึงอาจจัดทำและประกาศหลักจริยธรรม AI ที่สะท้อนองค์ประกอบต่อไปนี้

นอกจากนี้ รัฐมนตรีว่าการกระทรวงวิทยาศาสตร์และเทคโนโลยีสารสนเทศและการสื่อสารแห่งสาธารณรัฐเกาหลีจะมีหน้าที่จัดทำแนวทางปฏิบัติเพื่อนำหลักจริยธรรมไปใช้จริง ตลอดจนเผยแพร่ความตระหนักด้านจริยธรรมในสังคมผ่านการศึกษาและการประชาสัมพันธ์

หลักการดังกล่าวจะใช้เป็นเกณฑ์สำหรับบริษัทในการกำหนดนโยบาย AI และแนวปฏิบัติภายในด้วย

รัฐบัญญัติพื้นฐานว่าด้วย AI กำหนดความรับผิดชอบของรัฐบาลไว้ด้วย

โดยเฉพาะอย่างยิ่ง นับตั้งแต่มีการประกาศรับฟังความคิดเห็นอย่างเป็นทางการต่อร่างรัฐกฤษฎีกาประธานาธิบดีของสาธารณรัฐเกาหลีตั้งแต่เดือนพฤศจิกายน 2025 จึงเริ่มมีการจัดทำข้อกำหนดในเชิงรูปธรรมและทางปฏิบัติเกี่ยวกับเกณฑ์พิจารณา AI ที่มีผลกระทบสูง หน้าที่แจ้งเกี่ยวกับผลลัพธ์จาก AI เชิงสร้างสรรค์ หน้าที่รักษาความปลอดภัย และการประเมินผลกระทบของปัญญาประดิษฐ์

รัฐบาลกำลังรับฟังความคิดเห็นจากภาคอุตสาหกรรมและผู้เชี่ยวชาญอย่างกว้างขวาง และมีแผนกำหนดระยะเวลาให้คำแนะนำก่อนบังคับใช้ค่าปรับทางปกครองในช่วงแรกอย่างน้อย 1 ปี เพื่อให้บริษัทมีเวลาเตรียมความพร้อม

สำหรับบริษัท ข้อกำหนดดังกล่าวหมายความว่า “ทิศทางการกำกับดูแล ทิศทางการสนับสนุน หลักจริยธรรม และมาตรฐานการตรวจสอบของรัฐบาล” กำลังถูกนำมาดำเนินการภายใต้กรอบเดียวกัน

ดังนั้น บริษัทเอกชนจึงต้องปรับปรุงกลยุทธ์ AI ภายใน กระบวนการบริหารความเสี่ยง และระบบแจ้งข้อมูลเพื่อความโปร่งใสให้สอดคล้องกัน

เมื่อรัฐบัญญัติพื้นฐานว่าด้วย AI มีผลใช้บังคับ บริษัทจะต้องแสดงให้เห็นถึงความรับผิดชอบ ความโปร่งใส และความปลอดภัยในการพัฒนาและดำเนินงาน AI

โดยเฉพาะบริษัทที่ดำเนินการเกี่ยวกับ AI ที่มีความเสี่ยงสูงหรือมีผลกระทบสูงยิ่งต้องมีกลยุทธ์รับมือล่วงหน้า เนื่องจากการเตรียมความพร้อมไม่เพียงพออาจเพิ่มความเสี่ยงต่อมาตรการลงโทษและการชดใช้ค่าเสียหาย

ภายใต้รัฐบัญญัติพื้นฐานว่าด้วย AI ระบบบริหารเชิงป้องกันที่นำมาตรฐานทางกฎหมายและจริยธรรมมาใช้ตั้งแต่ช่วงเริ่มต้นของการพัฒนา AI ถือเป็นหลักสำคัญ

เมื่อจัดหาข้อมูลสำหรับการฝึก ต้องตรวจสอบอย่างละเอียดว่ามีการละเมิดลิขสิทธิ์หรือไม่ เนื่องจากสาธารณรัฐเกาหลีไม่มีบทบัญญัติยกเว้นความรับผิดสำหรับ TDM (การทำเหมืองข้อความและข้อมูล) จึงต้องพิจารณาว่าเป็นไปตามเกณฑ์มาตรา 35-5 (การใช้งานอันมีลักษณะเป็นธรรม) แห่งรัฐบัญญัติลิขสิทธิ์ของสาธารณรัฐเกาหลีหรือไม่

นอกจากนี้ การปฏิบัติตามรัฐบัญญัติคุ้มครองข้อมูลส่วนบุคคลของสาธารณรัฐเกาหลีต้องเป็นพื้นฐาน โดยต้องดำเนินการตามข้อกำหนดทางกฎหมายในแต่ละขั้นตอนของการประมวลผลข้อมูลอย่างเป็นระบบ เช่น การแฝงชื่อหรือทำให้ข้อมูลไม่สามารถระบุตัวบุคคลได้ การขอความยินยอม และการพิจารณาฐานกฎหมายที่ชอบด้วยกฎหมาย

นอกจากนี้ ต้องจัดให้มีการตรวจสอบชุดข้อมูลเพื่อลดอคติของอัลกอริทึม (Bias) การนำ XAI มาใช้ (ปัญญาประดิษฐ์ที่อธิบายได้ ซึ่งเป็นเทคโนโลยีที่อธิบายกระบวนการตัดสินใจของ AI ให้มนุษย์เข้าใจได้) และระบบตรวจสอบความแม่นยำตามตัวชี้วัดประสิทธิภาพ (เช่น F1-score)

ต้องระบุว่า AI ที่อยู่ระหว่างการพัฒนาเข้าข่ายปัญญาประดิษฐ์ที่มีผลกระทบสูงหรือไม่ และตรวจสอบหน้าที่เพิ่มเติมตามรัฐบัญญัติพื้นฐานว่าด้วย AI ตั้งแต่เนิ่น ๆ เช่น การรับรองความเป็นไปได้ที่มนุษย์จะเข้าแทรกแซง

รัฐบาลกำลังปรับปรุงทิศทางนโยบาย มาตรฐานความปลอดภัย การกำหนดมาตรฐาน และระบบตรวจสอบ โดยมีคณะกรรมการปัญญาประดิษฐ์แห่งชาติและสถาบันวิจัยความปลอดภัยปัญญาประดิษฐ์ของสาธารณรัฐเกาหลีเป็นศูนย์กลาง

ดังนั้น บริษัทจึงต้องจัดทำระบบธรรมาภิบาล AI โดยเชื่อมโยงนโยบายระดับชาติเหล่านี้กับกลยุทธ์ AI ภายในของบริษัท

ต้องจัดให้มีโครงสร้างความร่วมมือระหว่างฝ่ายงานต่าง ๆ เช่น การพัฒนาเทคโนโลยี การบริหารข้อมูล ฝ่ายกฎหมายและการปฏิบัติตามกฎหมาย ความมั่นคงปลอดภัย และการวางแผน พร้อมดำเนินข้อบังคับภายในที่จัดทำเป็นลายลักษณ์อักษร จึงจะสามารถลดต้นทุนในการรับมือกฎระเบียบได้

การมีผลใช้บังคับของรัฐบัญญัติพื้นฐานว่าด้วย AI มีความหมายมากกว่าการเพิ่มความเข้มงวดของกฎระเบียบ และอาจนำไปสู่การเปลี่ยนผ่านสู่ “โครงสร้างตลาดที่บริษัทซึ่งใช้ AI อย่างปลอดภัยและมีความรับผิดชอบเป็นผู้นำตลาด”

ความสามารถทางเทคโนโลยีเพียงอย่างเดียวไม่เพียงพออีกต่อไป โดยการบริหารข้อมูล ความโปร่งใส การควบคุมคุณภาพ และการปฏิบัติตามหลักจริยธรรมจะกลายเป็นปัจจัยใหม่ในการแข่งขัน

โดยเฉพาะบริษัทที่ใช้ AI ที่มีผลกระทบสูงหรือ AI เชิงสร้างสรรค์ ความสามารถในการปฏิบัติตามกฎระเบียบตลอดวงจร ตั้งแต่หน้าที่แจ้งข้อมูล → การรักษาความปลอดภัย → การคุ้มครองข้อมูลส่วนบุคคล → การติดตามอย่างต่อเนื่อง จะเป็นสินทรัพย์สำคัญที่กำหนดความเชื่อมั่นต่อบริษัท

หากมีข้อสงสัยเกี่ยวกับการควบคุมภายในด้าน AI การบริหารความเสี่ยง การพิจารณาว่าเข้าข่าย AI ที่มีผลกระทบสูงหรือไม่ หรือการรับมือความเสี่ยงด้านกฎระเบียบในอนาคต อาจขอให้ทนายความด้านธุรกิจที่ให้คำปรึกษาเกี่ยวกับอุตสาหกรรมปัญญาประดิษฐ์ประเมินระบบการดำเนินงาน AI ของบริษัทตามลักษณะเฉพาะของบริษัท