เราได้เห็นฉากที่เครื่องในภาพยนตร์ควบคุมโลกและการทำลายมนุษย์โชคดีที่ภาพยนตร์เหล่านี้เป็นเพียงความบันเทิงในชีวิตจริงฉากบังคับเหล่านี้จะไม่เกิดขึ้นอย่างไรก็ตามประเด็นสำคัญที่ควรกล่าวคือ : อคติอัลกอริทึม (อัลกอริธึมอคติ)
'อคติเกี่ยวกับขั้นตอนวิธี' หมายถึงอคติของนักออกแบบหรือนักพัฒนาซอฟต์แวร์ในการเขียนโปรแกรมที่ดูเหมือนจะเป็นอันตรายหรือข้อมูลที่ใช้มีความลำเอียงผลของหลักสูตรนำมาซึ่งความหลากหลายของปัญหา ตัวอย่างเช่นการค้นหาของ Google ถูกตีความผิดพลาดผู้สมัครที่มีคุณสมบัติเหมาะสมไม่สามารถเข้าเรียนในโรงเรียนแพทย์ได้บอทแชทแพร่กระจายการเหยียดผิวและข้อมูลการเลือกปฏิบัติทางเพศบน Twitter
ปัญหาอย่างหนึ่งที่เกิดจากอัจฉริยะขั้นสูงคือวิศวกรที่มีส่วนร่วมในการเขียนโปรแกรมสามารถสร้างอคติได้แม้ว่าจะไม่ใช่เชื้อชาติเพศหรืออายุก็ตาม AI ประดิษฐ์ได้รับการออกแบบมาเพื่อการเรียนรู้ด้วยตัวเองบางครั้ง แต่ทางออกที่ดีที่สุดคือการป้องกันไม่ให้มันเกิดขึ้นดังนั้นเราจะทำให้ AI เป็นกลางได้อย่างไร?
กระแทกแดกดันหนึ่งในความเป็นไปได้ที่น่าตื่นเต้นที่สุดที่ปัญญาประดิษฐ์คือโลกที่ปราศจากอคติของมนุษย์เช่นเมื่อมันมาถึงการรับสมัครพนักงานผ่านขั้นตอนวิธีที่สามารถทำให้ผู้ชายและผู้หญิงเท่าเทียมกันในการใช้งานเดียวกัน การรักษาหรือหลีกเลี่ยงการเกิดขึ้นของการเหยียดผิวในการรักษา
โดยไม่คำนึงว่าคนมีความตระหนักว่าเครื่องสร้างมนุษย์จะสะท้อนให้เห็นถึงวิธีการที่คนมองโลกจึงจะมีมุมมองโลกที่คล้ายกันและแบบแผนเพราะปัญญาประดิษฐ์มากขึ้นและลึกซึ้งยิ่งขึ้นในชีวิตของเราจะต้องให้ความสนใจกับปัญหานี้
ความท้าทายที่หันหน้าไปทางด้านปัญญาประดิษฐ์อีกอคติไม่ได้เป็นเพียงรูปแบบเดียว แต่มีหลายประเภทรวมทั้งอคติโต้ตอบอคติสติเลือกอคติอคติที่ขับเคลื่อนด้วยข้อมูลและยืนยันอคติ
ประเภทอคติต่างๆของ AI
'อคติโต้ตอบ' หมายถึงอคติของอัลกอริทึมเนื่องจากปฏิสัมพันธ์ของผู้ใช้กับอัลกอริทึมเมื่อเครื่องได้รับการตั้งค่าให้เรียนรู้จากสภาพแวดล้อมโดยรอบพวกเขาไม่สามารถตัดสินใจได้ว่าข้อมูลใดที่จะเก็บหรือทิ้งสิ่งที่ถูกต้อง? หรือไม่ถูกต้อง แต่พวกเขาสามารถใช้ข้อมูลที่ให้ไว้ - ไม่ว่าจะเป็นดีไม่ดีหรือน่าเกลียดเท่านั้นที่จะทำให้การตัดสินขึ้นอยู่กับพื้นฐานนี้หุ่นยนต์สนทนา Microsoft ดังกล่าว Tay เป็นตัวอย่างของความอยุติธรรมแบบนี้มันเริ่มที่จะกลายเป็นชนชั้นเพราะอิทธิพลของชุมชนแชทออนไลน์
"อคติอ่อน" หมายถึงอัลกอริทึมที่เชื่อมโยงความคิดผิดกับปัจจัยต่างๆเช่นเชื้อชาติและเพศตัวอย่างเช่นเมื่อค้นหาภาพของแพทย์ปัญญาประดิษฐ์แรกจะแสดงภาพของแพทย์ชายไม่ใช่แพทย์หญิงและในทางกลับกัน อย่างไรก็ตามสถานการณ์ที่คล้ายคลึงกันเกิดขึ้นเมื่อค้นหาพยาบาล
'เลือกอคติ' หมายถึงขั้นตอนวิธีการเนื่องจากอิทธิพลของข้อมูลที่ส่งผลให้ในเกินไปซูมในกลุ่มหรือกลุ่มเพื่อที่ว่าอัลกอริทึมในความโปรดปรานของพวกเขา แต่ค่าใช้จ่ายของกลุ่มอื่น ๆ. ในการรับสมัครพนักงานสำหรับตัวอย่างเช่นถ้า AI คือ การฝึกอบรมเพื่อรับรู้ประวัติของผู้ชายเท่านั้นจากนั้นผู้หางานสตรีก็แทบจะไม่สามารถประสบความสำเร็จในขั้นตอนการสมัครได้
'ข้อมูลเชิงอคติ' หมายถึงข้อเท็จจริงที่ว่าข้อมูลเดิมที่ใช้ในการฝึกอบรมอัลกอริทึมได้รับความอยุติธรรมเครื่องเป็นเหมือนเด็ก: พวกเขาไม่ถามข้อมูลที่ได้รับพวกเขาเพียงแค่มองหารูปแบบในพวกเขาหากข้อมูลเริ่มออก การบิดเบือนผลของผลลัพธ์จะสะท้อนให้เห็นถึงสิ่งนี้
รูปแบบสุดท้ายคือ 'อคติการยืนยัน' ซึ่งคล้ายกับข้อมูลเชิงเชิงลบอคติมันข้อมูลอคติเหล่านั้นอคติดังกล่าวมีผลต่อวิธีการรวบรวมข้อมูลและวิธีการตีความข้อมูลตัวอย่างเช่นถ้าคุณรู้สึกว่าคนเกิดในเดือนสิงหาคม คนที่เกิดมามากกว่าเดือนอื่น ๆ มีความคิดสร้างสรรค์และมีแนวโน้มที่จะค้นหาข้อมูลที่สนับสนุนแนวคิดนี้
เมื่อเรารู้ว่ามีอคติจำนวนมากดังนั้นอาจซึมตัวอย่างเช่นระบบปัญญาประดิษฐ์ก็ดูเหมือนว่าคนที่มีความกังวลใจมาก. แต่มันเป็นสิ่งสำคัญที่จะยอมรับความจริงที่ว่าโลกของตัวเองจะลำเอียงและดังนั้นในบางกรณีสำหรับปัญญาประดิษฐ์ของเรา ผลการค้นหาที่มีให้และจะไม่ต้องแปลกใจ แต่ไม่ควรจะเป็นอย่างนั้นเราต้องมีการทดสอบและการกระบวนการตรวจสอบขั้นตอนวิธีปัญญาประดิษฐ์และระบบสำหรับการตรวจสอบในช่วงต้นของการมีอคติก่อนและระหว่างรูปแบบการพัฒนา
ขั้นตอนวิธีการที่แตกต่างกันและมนุษย์ก็ไม่ได้โกหกดังนั้นถ้าผลที่ได้คือลำเอียงก็ต้องมีเหตุผลที่เป็นขั้นตอนวิธีการและข้อมูลที่ได้รับเกี่ยวกับชายคนสามารถนอนที่จะอธิบายเหตุผลของการไม่จ้างคน แต่ไม่สามารถ AI. การใช้ขั้นตอนวิธีการที่เราอาจจะรู้ว่าเมื่อไหร่จะมีอคติและปรับให้พวกเขาเอาชนะปัญหาเหล่านี้ในอนาคต
AI จะได้เรียนรู้ทำผิดมักจะมีเพียงหลังจากขั้นตอนวิธีการใช้งานจริงเพื่อค้นหาทุกอคติโดยธรรมชาติเพราะอคติเหล่านี้เป็นภาพขยาย. ขั้นตอนวิธีการค่อนข้างเป็นภัยคุกคามมันจะดีกว่าที่จะแก้ปัญหาพวกเขาเป็น ทุกโอกาสที่ดีที่จะกระทบถึงปัญหาและถูกต้องในกรณีที่จำเป็น
เราสามารถพัฒนาระบบเพื่อตรวจสอบการตัดสินใจที่ลำเอียงและดำเนินการได้ทันเวลาเมื่อเทียบกับมนุษย์ปัญญาประดิษฐ์เหมาะอย่างยิ่งสำหรับวิธีการแบบ Bayesian เพื่อพิจารณาความน่าจะเป็นของสมมติฐานและกำจัดสิ่งที่เป็นไปได้ทั้งหมด อคติของมนุษย์ซึ่งมีความซับซ้อน แต่เป็นไปได้โดยเฉพาะอย่างยิ่งเมื่อพิจารณาถึงความสำคัญของปัญญาประดิษฐ์และจะมีความสำคัญมากขึ้นในปีต่อ ๆ ไปเท่านั้นนี่เป็นเรื่องที่ขาดความรับผิดชอบ
ด้วยการพัฒนาระบบปัญญาประดิษฐ์สิ่งสำคัญคือต้องเข้าใจวิธีการทำงานเพื่อให้มีสติผ่านการออกแบบและเพื่อหลีกเลี่ยงอคติที่อาจเกิดขึ้นในอนาคตอย่าลืมว่าแม้ว่าปัญญาประดิษฐ์กำลังพัฒนาอย่างรวดเร็ว แต่ก็ยังคงเป็น ในระยะเริ่มแรกมีหลายพื้นที่ที่ต้องศึกษาและปรับปรุงให้ดีขึ้นการปรับนี้จะดำเนินไปเรื่อย ๆ ในเวลาเดียวกันปัญญาประดิษฐ์จะฉลาดขึ้นในอนาคตจะมีวิธีแก้ปัญหาต่างๆเช่นอคติมากขึ้น .
สำหรับอุตสาหกรรมเทคโนโลยีเรายังคงตั้งคำถามกับวิธีการดำเนินงานของเครื่องและเหตุผลที่มีความสำคัญมากที่สุดของปัญญาประดิษฐ์เป็นเหมือนกล่องดำที่กระบวนการตัดสินใจถูกซ่อนอยู่ แต่ประชาชนและความโปร่งใสของปัญญาประดิษฐ์มันเป็นที่ยอมรับ กุญแจสำคัญในการไว้วางใจและหลีกเลี่ยงความเข้าใจผิด
ในขั้นตอนนี้มีหลายการศึกษาช่วยเหลืออคติผลิตบัตรประจำตัวเช่นการศึกษา Fraunhofer Heinrich Hertz สถาบันที่พวกเขามุ่งเน้นในการแยกแยะความแตกต่างของอคติอคติเช่นดังกล่าวเช่นเดียวกับ 'ระดับต่ำ' อคติและบาง ปัญหาที่อาจเกิดขึ้นในระหว่างการฝึกอบรมและการพัฒนาปัญญาประดิษฐ์
ในทางกลับกันสิ่งที่จำเป็นต้องได้รับการพิจารณาคือการฝึกอบรมที่ไม่ได้รับการฝึกอบรมในปัจจุบันส่วนใหญ่ของรูปแบบปัญญาประดิษฐ์ได้รับการพัฒนาผ่านการฝึกอบรมภายใต้การดูแลนั่นคือเฉพาะข้อมูลที่มนุษย์มีการติดฉลากเท่านั้น การฝึกอบรมภายใต้การควบคุมโดยใช้ข้อมูลที่ไม่ได้ติดป้ายกำกับอัลกอริทึมต้องจัดเรียงตัวเองระบุและรวบรวมข้อมูลวิธีนี้มักใช้คำสั่งหลายคำสั่งช้ากว่าการเรียนรู้ที่ได้รับการดูแล แต่วิธีนี้ค่อนข้าง จำกัด การแทรกแซงของมนุษย์ สามารถกำจัดความลำเอียงของมนุษย์ที่ใส่ใจหรือไม่ใส่ใจและหลีกเลี่ยงผลกระทบต่อข้อมูล
นอกจากนี้ยังมีหลายสิ่งที่สามารถปรับปรุงได้ในแง่ของโครงสร้างพื้นฐานเมื่อมีการพัฒนาผลิตภัณฑ์เว็บไซต์หรือคุณลักษณะใหม่ ๆ บริษัท ด้านเทคโนโลยีจำเป็นต้องมีพรสวรรค์ในทุกสาขาการกระจายความเสี่ยงจะให้ข้อมูลหลากหลายสำหรับอัลกอริทึม แต่โดยไม่ได้ตั้งใจ ข้อมูลเหล่านี้มีความลำเอียงถ้ามีคนวิเคราะห์ผลลัพธ์แล้วโอกาสในการหาอคติจะค่อนข้างสูง
นอกจากนี้การตรวจสอบอัลกอริทึมยังมีบทบาทอื่น ๆ อีกด้วยในปี 2016 ทีมวิจัยของมหาวิทยาลัยคาร์เนกีเมลลอนประเทศสหรัฐอเมริกาได้ค้นพบความผิดพลาดเกี่ยวกับอัลกอริธึมในโฆษณางานออนไลน์พวกเขาได้แสดงบนอินเทอร์เน็ต Google Advertising รายชื่อคนที่กำลังมองหางานแสดงให้เห็นว่าผู้ชายมีสัดส่วนของงานที่มีรายได้สูงเกือบหกเท่าของผู้หญิงทีมวิจัยสรุปได้ว่าถ้าการตรวจสอบอัลกอริธึมภายในดำเนินไปเป็นครั้งแรกจะช่วยลดความอคติดังกล่าวได้
ในระยะสั้นความอยุติธรรมของเครื่องคือความอคติของมนุษย์มีอคติทางปัญญาประดิษฐ์หลายแบบ แต่ในความเป็นจริงมันมาจากแหล่งเดียว: มนุษย์
กุญแจสำคัญคือ บริษัท ด้านเทคโนโลยีวิศวกรและนักพัฒนาซอฟต์แวร์ควรใช้มาตรการที่มีประสิทธิภาพเพื่อหลีกเลี่ยงขั้นตอนวิธีเชิงกลโดยบังเอิญโดยการตรวจสอบอัลกอริทึมและทำให้พวกเขาโปร่งใสตลอดเวลาเรามีความมั่นใจว่าเราสามารถสร้างปัญญาประดิษฐ์ได้ อัลกอริธึมเพื่อกำจัดอคติ