Green and Orange Vibrant Animated AI and Machine Learning Presentation

Transparansi Dan Akuntabilitas Dalam Sistem Ai Presented By: Kelompok 56.

Anggota Kelompok Anggota Kelompok Anggota Kelompok Syahrul Afif T A Tsania Galuh B Melati A Dhamayanti 23/518266/TK/57027 Leni Ayu Romadhoni 23/515916/SV/22644 22/500322/TK/54832 23/514454/SV/22352 Nabila Amanda Putri Zhorif Zainul Hafizh 21/480409/PA/20867 Tamalia Radhwa Q T 24/542368/TK/60223 23/515098/SV/22477 Khairani Ristya W 21/475318/PA/20568.

(A-I ) yang bertanggung jawab Pengembangan dan penerapan kecerdasan buatan dengan memperhatikan dampak sosial, etis, dan hukum, serta memastikan bahwa (A-I ) digunakan untuk kepentingan bersama dan bukan untuk merugikan individu atau kelompok. Tujuan utama: Memastikan bahwa teknologi ini memberikan manfaat yang maksimal tanpa menimbulkan dampak negatif yang tidak diinginkan. Hal ini melibatkan prinsip transparansi, akuntabilitas, dan keadilan dalam setiap tahap pengembangan dan penggunaan (A-I )..

[Audio] TRANSPARANSI Prinsip yang menekankan pentingnya keterbukaan dalam pengembangan dan penggunaan (A-I ). Hal ini berarti bahwa algoritma, data yang digunakan, dan proses pengambilan keputusan harus dapat dipahami dan dijelaskan kepada publik. Transparansi ini bukan hanya membantu pengguna memahami bagaimana (A-I ) bekerja, tetapi juga membangun kepercayaan bahwa sistem tersebut tidak disalahgunakan atau dipengaruhi oleh bias yang tidak terdeteksi..

[Audio] akuntabilitas Memastikan bahwa pihak pihak yang mengembangkan atau mengimplementasikan (A-I ) bertanggung jawab atas konsekuensi yang ditimbulkan. Hal ini berarti bahwa jika terjadi kesalahan atau penyalahgunaan, ada mekanisme yang jelas untuk menanggapi dan memperbaikinya. Akuntabilitas juga melibatkan pengawasan eksternal dan internal yang memastikan bahwa (A-I ) digunakan sesuai dengan standar etis yang telah disepakati..

[Audio] TRANSPARANSI DAN akuntabilitas Kunci untuk membangun kepercayaan terhadap (A-I ). Tanpa transparansi, pengguna tidak akan tahu bagaimana dan mengapa (A-I ) mengambil keputusan. Tanpa akuntabilitas, tidak ada jaminan bahwa kesalahan atau dampak negatif dapat diperbaiki dengan tepat. Melalui transparansi dan akuntabilitas, masyarakat akan merasa lebih aman dan yakin bahwa (A-I ) diterapkan secara adil dan bertanggung jawab..

[Audio] pentingnya TRANSPARANSI dalam (A-I ) Transparansi dalam kecerdasan buatan (A-I---) penting untuk meningkatkan kepercayaan publik dan memahami proses pengambilan keputusan. Dengan transparansi, masyarakat dapat melihat logika dan data yang digunakan oleh (A-I ), serta mengurangi masalah “black box” pada model kompleks. Namun, transparansi menghadapi tantangan, terutama terkait model “black box” yang sulit dipahami dan keterbatasan dalam mengungkap algoritma serta data latih. Meski begitu, transparansi mendukung penerapan (A-I ) yang lebih etis, membantu menghindari bias, meningkatkan tanggung jawab sosial, dan mendorong inovasi yang beretika..

[Audio] EXPLAINABLE (A-I ) (X-A-I--) Penjelasan Metode Transparansi Explainable (A-I ) (X-A-I--) bertujuan untuk mengembangkan sistem (A-I ) yang dapat menjelaskan keputusan atau prediksi mereka dengan cara yang dapat dipahami oleh manusia. Dalam sistem (A-I ) tradisional, keputusan sering kali seperti “kotak hitam” yang sulit untuk diinterpretasi. X-A-I berusaha membuka proses ini dengan cara yang lebih transparan..

[Audio] Contoh Explainable Ai: S-H-A-P (Shapley Additive Explanations): Menyediakan kontribusi setiap fitur terhadap keputusan model. lime (Local Interpretable Model agnostic Explanations): Menghasilkan model sederhana untuk menjelaskan prediksi model yang lebih kompleks. Contoh Kasus Penggunaan : Dalam bidang medis, jika (A-I ) digunakan untuk mendiagnosis penyakit, X-A-I memungkinkan dokter untuk memahami faktor faktor yang memengaruhi diagnosis, meningkatkan kepercayaan terhadap sistem..

[Audio] Metode Transparansi Dalam Explainable Ai Mencakup: Model White box : Model yang intrinsik transparan, seperti pohon keputusan atau regresi linear, memungkinkan pemahaman langsung tentang keputusan model. Pendekatan Post Hoc : Untuk model yang lebih kompleks, seperti jaringan saraf atau random forest, teknik seperti lime atau S-H-A-P digunakan untuk menjelaskan prediksi setelah model dilatih..

[Audio] Kebutuhan Dokumentasi Dan Jalur Audit Dalam Sistem Ai : Dokumentasi Model : Semua keputusan dan proses yang diambil oleh model harus terdokumentasi dengan baik, termasuk data yang digunakan, metode pelatihan, dan pengujian model. Dokumentasi ini memudahkan pemahaman dan pengelolaan model. Jalur Audit : Diperlukan untuk memastikan bahwa keputusan yang diambil oleh model dapat dilacak kembali ke sumbernya. Jalur audit membantu memastikan bahwa model tidak bias dan memberikan akuntabilitas dalam penggunaan (A-I )..

[Audio] akuntabilitas dalam (A-I ) Akuntabilitas dalam ranah kecerdasan buatan (A-I---) merujuk pada kewajiban pihak pihak yang terlibat dalam desain, pengembangan, penggunaan, dan penerapan teknologi (A-I ) untuk bertanggung jawab atas hasil dan dampak yang ditimbulkan oleh teknologi tersebut. Akuntabilitas menjadi penting untuk memastikan bahwa setiap dampak negatif, kesalahan, atau ketidaksesuaian dapat ditelusuri, dijelaskan, dan diperbaiki..

[Audio] Siapa Yang Bertanggung Jawab? perusahaan/ORGANISASI yang pengembang & peneliti (A-I ) menggunakan (A-I ) Bertanggung jawab dalam merancang algoritma yang aman, transparan, dan tanpa bias. Wajib melakukan pengujian dan validasi menyeluruh untuk meminimalisir dampak negatif pada pengguna. Bertanggung jawab atas dampak yang dihasilkan dari produk atau layanan yang menggunakan (A-I ). Wajib memastikan bahwa teknologi yang digunakan memenuhi standar etika dan regulasi. pemerintah & regulator pengguna A-K-H-I-R Bertanggung jawab membuat peraturan yang Bertanggung jawab moral untuk menggunakan (A-I ) sesuai regulasi dan menghindari penggunaan (A-I ) yang merugikan orang lain. menjaga penggunaan (A-I ) tetap sesuai dengan etika dan hukum, seperti salah satunya melindungi privasi..

[Audio] pentingnya akuntabilitas dalam (A-I ) Mengurangi risiko dan dampak negatif dimana akuntabilitas memastikan adanya mekanisme untuk mengidentifikasi, mengatasi, dan memperbaiki kesalahan. Menghindari penyalahgunaan sebagai contoh dalam pengumpulan data. Kepastian hukum seperti G-D-P-R di Eropa yang mengharuskan transparansi dalam penggunaan (A-I ) dan perlindungan data pengguna. Meningkatkan kepercayaan publik dengan adanya tanggung jawab dan kontrol yang jelas terhadap (A-I )..

[Audio] POIN-POIN utama akuntabilitas dalam (A-I ) Tanggung Jawab Hukum: Tanggung Jawab Etika: Mengutamakan kesejahteraan manusia dimana (A-I ) dirancang dengan prinsip untuk meningkatkan Perlindungan data dan privasi agar data pengguna terlindungi dan tidak digunakan tanpa izin. Transparansi dan keterbukaan dimana perusahaan wajib memberikan informasi yang jelas kesejahteraan manusia, Memastikan keadilan dengan tidak adanya bias dimana (A-I ) harus dirancang dan diuji untuk bagaimana (A-I ) bekerja dan dampaknya pada pengguna. Anti Diskriminasi dimana hukum mengatur (A-I ) agar tidak menghasilkan keputusan yang bias atau memastikan tidak ada bias dalam algoritmanya. Meminimalisir dampak negatif yang dapat ditimbulkan baik jangka diskriminatif. pendek maupun jangka panjang..

[Audio] penerapan akuntabilitas dalam pengembangan (A-I ) Berikut prosesnya: Audit Rutin: Dilakukan secara berkala untuk mengevaluasi apakah sistem (A-I ) sesuai dengan standar dan peraturan yang berlaku. Memastikan adanya dokumentasi lengkap dari data, proses, dan keputusan yang diambil. Penilaian Risiko: Mengidentifikasi potensi risiko dari penggunaan (A-I ), seperti bias atau penyalahgunaan data. Penilaian risiko dilakukan pada setiap tahap pengembangan untuk mengurangi dampak negatif..

[Audio] penerapan akuntabilitas dalam pengembangan (A-I ) Berikut prosesnya: Kerangka Kerja & Kebijakan Akuntabilitas: Menggunakan standar dan panduan akuntabilitas yang diakui, seperti G-D-P-R atau ISO/IEC. Membantu organisasi mempertanggungjawabkan tindakan yang dilakukan selama pengembangan dan penerapan (A-I )..

[Audio] penerapan akuntabilitas dalam pengembangan (A-I ) Contoh di Dunia Nyata: Contoh Perusahaan Teknologi: Perusahaan besar seperti Google dan Microsoft melakukan audit rutin untuk memastikan bahwa algoritma mereka tidak mengandung bias. Penerapan G-D-P-R-: Di Eropa, peraturan ini mengharuskan transparansi dalam pemrosesan data oleh sistem (A-I )..

[Audio] penerapan akuntabilitas dalam pengembangan (A-I ) Manfaat Akuntabilitas dalam Pengembangan (A-I ) Membangun kepercayaan publik pada teknologi (A-I ). Memastikan keamanan dan keadilan dalam penggunaan (A-I ). Mengurangi risiko terkait privasi, bias, dan penyalahgunaan data. Akuntabilitas bukan hanya keharusan hukum, tetapi juga tanggung jawab moral dalam menciptakan (A-I ) yang bermanfaat bagi semua..

[Audio] Tantangan Penerapan Transparansi & Akuntabilitas 04 01 02 03 Resistensi Kompleksitas Keterbatasan Biaya yang dalam Regulasi & Teknis Tinggi Organisasi Standar.

[Audio] 01 keterbatasan teknis Sistem (A-I ) yang kompleks seperti deep learning bersifat “black box” -> Proses decision making sulit dipahami oleh pengguna dan bahkan terkadang oleh developer nya sekalipun. Model (A-I ) cenderung kompleks dan memiliki banyak lapisan parameter yang saling terkait sehingga sulit untuk memberikan penjelasan transparan mengenai bagaimana output dihasilkan..