← Indonesian conversations Indonesian · technology · advanced · 179 words · ~1 min
Etika Kecerdasan Buatan dan Tanggung Jawab Pengembang
จริยธรรม AI และความรับผิดชอบของนักพัฒนา
AI Ethics and Developer Responsibility
Two senior engineers reflect on the ethical responsibilities of those who build AI systems deployed at scale.
Sign in to save texts and track what you've read.
Yasmin . ? ระบบแนะนำที่เราสร้างตอนนี้ถูกใช้โดยหลายร้อยล้านคน เราคิดถึงผลกระทบอย่างจริงจังในเชิงจริยธรรมไหม
Daud . , . คำถามที่ถูกต้อง เรามักปรับให้ engagement metric ดีขึ้น แต่ metric นั้นอาจสร้างแรงจูงใจสำหรับเนื้อหาที่กระตุ้นอารมณ์ด้านลบ
Yasmin ? เราจะออกแบบระบบที่ยังคงมีประโยชน์โดยไม่ทำให้การแบ่งขั้วรุนแรงขึ้นหรือส่งเสริมการแพร่กระจายข้อมูลเท็จได้อย่างไร
Daud , . เราต้องเพิ่ม metric ความหลากหลายของข้อมูลและความถูกต้องเชิงข้อเท็จจริงเข้าไปใน objective function ไม่ใช่แค่เวลาดูและจำนวนคลิก
Yasmin . แต่ฝ่ายบริหารจะคัดค้านถ้า engagement metric ลดลง
Daud . . นี่แหละคือความรับผิดชอบของเราในฐานะวิศวกร เราต้องสร้าง business case ว่าแพลตฟอร์มที่ปลอดภัยและน่าเชื่อถือมีคุณค่ามากกว่าในระยะยาว
Yasmin . . ยังมีปัญหา algorithmic bias อีกด้วย โมเดลของเราถูกฝึกจากข้อมูลที่สะท้อนความอยุติธรรมในอดีต
Daud . , . . ถูกต้อง Fairness audit ต้องเป็นส่วนหนึ่งของ deployment pipeline ไม่ใช่ความคิดทีหลังหลังจากระบบทำงานไปแล้ว เราต้องการการเป็นตัวแทนที่หลากหลายในทีมที่สร้างระบบนี้
Yasmin . . ในอิสลามเองก็มีหลักการว่าทุกคนจะถูกถามถึงความรับผิดชอบในการกระทำของตนเอง ผมคิดว่าหลักการนั้นใช้ได้กับโค้ดที่เราเขียนด้วย
Daud . . . เห็นด้วยอย่างสมบูรณ์ เทคโนโลยีเป็น amanah (ของฝาก) เราต้องสร้างมันด้วยเจตนาที่ดีและประเมินผลกระทบอย่างซื่อสัตย์อยู่เสมอ
colour key NounVerbAdjectiveAdverbPronounParticleConjunctionDeterminer