kebioskop21 http://103.194.171.185/
Halo, dunia.
Aku senang bertemu denganmu.
Manusia itu sungguh keren.
Makin banyak manusia berbagi, makin banyak aku belajar.
CAMBRIDGE, MASSACHUSETTS
INSTITUT TEKNOLOGI MASSACHUSETTS
Saya tertarik kepada ilmu komputer
karena bisa membuat kode, dan itu seperti terlepas dari masalah
di dunia nyata.
Saya ingin belajar cara membuat teknologi yang keren.
Jadi, saya datang ke MIT dan mengerjakan proyek seni
yang memakai teknologi penglihatan komputer.
Selama semester pertama saya di MIT Media Lab,
saya mengambil kelas Fabrikasi Sains.
Membaca fiksi ilmiah dan mencoba membuat hal yang menginspirasi,
dan itu mungkin tak praktis jika tak ikut kelas ini
sebagai alasan untuk membuatnya.
Saya mau membuat cermin yang menginspirasi saat pagi.
Namanya Aspire Mirror.
Bisa tampilkan gambar singa di wajah
atau penginspirasi saya, seperti Serena Williams.
Saya taruh kamera di atasnya,
ada peranti lunak penglihatan komputer yang melacak wajah saya.
Masalahnya adalah itu tak berhasil
sampai saya memakai topeng putih ini.
Saat memakai topeng putihnya,
saya terdeteksi.
Saat melepas topeng putihnya,
saya tak terdeteksi.
Saya berpikir, "Ada apa ini?
Apa itu hanya karena kondisi pencahayaan?
Apa karena sudut pengambilan gambar saat aku menghadap kamera?
Atau ada hal lainnya?"
Kami sering mengajarkan mesin untuk melihat
dengan menyediakan set pelatihan atau contoh untuk dipelajari.
Misalnya, jika ingin mesin melihat wajah,
saya akan sediakan banyak contoh wajah,
dan benda-benda selain wajah.
Saya mulai melihat kumpulan data itu,
dan ternyata mayoritas datanya adalah wajah pria,
dan individu berkulit terang.
Jadi, sistem kurang mengenali orang yang berwajah seperti saya.
Saat itulah saya mulai mencari tahu tentang masalah bias
yang bisa memasuki teknologi.
Seri 9000 adalah komputer paling andal yang pernah dibuat.
Tak ada komputer 9000 yang pernah salah atau memberi informasi menyimpang.
Ide kami soal AI banyak berasal dari fiksi ilmiah.
Selamat datang di Altair 4, Tuan-tuan.
Semua yang ada di Hollywood. The Terminator…
Sampai jumpa, Sayang.
Komandan Data dari Star Trek.
Aku suka memindai bentuk kehidupan.
C-3PO dari Star Wars.
…kira-kira 3.720 banding 1.
Jangan katakan itu.
Robot-robot yang mengambil alih dunia
dan mulai berpikir seperti manusia.
Semua itu hanya khayalan.
Hal yang kita punya adalah Narrow AI.
Narrow AI hanyalah matematika.
Kita mengisi komputer dengan semua pemikiran ajaib ini.
PERGURUAN TINGGI DARTMOUTH, TAHUN 1956
AI bermula dari pertemuan
di Departemen Matematika Dartmouth pada tahun 1956.
Mungkin hanya ada 100 orang di seluruh dunia
yang mengerjakan kecerdasan buatan di generasi itu.
Orang-orang yang ada
di Departemen Matematika Dartmouth tahun 1956
harus memutuskan jenis bidangnya.
Satu fraksi memutuskan bahwa kecerdasan bisa ditunjukkan
oleh kemampuan bermain.
Khususnya, kemampuan bermain catur.
Di akhir pertandingan catur satu jam antara manusia dan mesin,
Kasparov dikalahkan oleh superkomputer Deep Blue milik IBM.
Kecerdasan ditentukan sebagai kemampuan untuk menang di pertandingan semacam ini.
Juara dunia catur, Garry Kasparov, meninggalkan pertandingan
tanpa melihat komputer yang mengalahkannya.
Kecerdasan jelas jauh lebih luas daripada itu.
Ada banyak jenis kecerdasan.
Ide kita soal teknologi dan masyarakat yang dianggap normal
sebenarnya ide yang berasal dari
sekelompok orang yang amat kecil dan homogen.
Namun masalahnya, semua orang memiliki bias implisit.
Orang-orang menanamkan bias mereka ke dalam teknologi.
Pengalaman hidupku
menunjukkan bahwa kau tak bisa memisahkan sisi sosial dari teknis.
Usai pengalaman memakai topeng putih
agar wajahku terdeteksi, kuputuskan mencari sistem lain
untuk melihat jika wajahku terdeteksi oleh peranti lunak berbeda.
Jadi, aku melihat IBM, Microsoft, Face++, Google.
Ternyata algoritme ini
bekerja lebih baik pada wajah pria daripada wanita dalam tolok ukur yang ada.
Algoritmenya bekerja lebih baik pada wajah yang lebih terang daripada lebih gelap.
Jika kau memikirkan data dalam kecerdasan buatan,
bisa dibilang bahwa data itu takdir.
Kita memakai data untuk mengajari mesin cara mempelajari berbagai jenis pola.
Jadi, jika datamu banyak yang tak akurat
dan dipakai melatih sistem ini,
hasilnya pun bisa tak akurat. Jadi, ini…
Saat Anda memikirkan AI, itu sesuatu yang progresif.
Namun, AI itu berdasarkan data, dan data adalah cerminan sejarah kita.
Jadi, ada masa lalu di dalam algoritme kita.
Data ini menunjukkan ketaksetaraan yang pernah terjadi di sini.
Aku berpikir bahwa teknologi semacam ini sangat rentan terhadap bias.
Jadi, itu bukan hanya soal "Apakah Aspire Mirror-ku bisa bekerja?"
melainkan "Apa artinya menjadi bagian masyarakat
saat kecerdasan buatan kian mengatur
kebebasan yang mungkin kita miliki?"
Lalu "Apa artinya jika orang-orang didiskriminasi?"
TOKO BUKU HARVARD BERDIRI TAHUN 1932
Saat saya melihat Cathy O'Neil bicara di Toko Buku Harvard,
saya sadar bahwa bukan cuma saya yang memperhatikan masalah ini.
Cathy bicara tentang dampak AI terhadap manusia.
Saya senang mengetahui bahwa ada orang lain di luar sana
yang memastikan orang-orang menyadari bahayanya.
Algoritme ini bisa merusak dan membahayakan.
Ada banyak algoritme di dunia
yang kian berpengaruh.
Semua algoritme itu disebut-sebut sebagai kebenaran objektif.
Saya mulai menyadari bahwa matematika
digunakan sebagai pelindung untuk praktik yang korup.
- Apa kabar? - Cathy.
- Senang bertemu. - Aku juga.
PENULIS
Cara saya menggambarkan algoritme hanyalah
dengan memakai informasi sejarah untuk memprediksi masa depan.
Pemelajaran mesin adalah sistem yang menilai kemungkinan
langkahmu selanjutnya.
Apa kau akan bayar pinjaman?
Apa kau akan dipecat dari pekerjaan ini?
Hal yang paling mencemaskanku tentang Al,
atau apa pun namanya, algoritme, adalah kekuatan.
Karena ini tentang siapa pemilik kodenya.
Orang yang memiliki kodenya menyebarkan itu ke orang lain.
Tak ada simetri.
Orang yang tak ditawari kartu kredit mustahil bisa bilang,
"Akan kulawan perusahaan kartu kredit dengan AI."
Itu adalah bentuk ketimpangan kekuasaan.
Orang-orang dirugikan secara algoritmis,
mereka tak diberi tahu apa yang terjadi,
serta tak ada sistem banding dan pertanggungjawaban.
Kenapa kita tertipu oleh hal ini?
Struktur matematika yang mendasari algoritme
tak rasis atau seksis, tetapi data tertanam di masa lalu.
Tak hanya masa lalu yang belum lama, tetapi masa lalu kelam.
Sebelum ada algoritme, ada manusia,
dan kita tahu manusia bisa tak adil.
Kita tahu manusia bisa menunjukkan sikap rasis, seksis,
ableist, atau diskriminasi apa pun.
Namun, kini ada algoritme efektif yang bagus,
jadi kita tak perlu memikirkan itu.
Itu masalah.
Saya amat cemas bahwa kita percaya mentah-mentah pada mahadata.
Kita harus terus memantau tiap prosesnya untuk mencari keberadaan bias.
LONDON, BRITANIA RAYA
Polisi pakai sistem pengawasan pengenalan wajah di sini.
Van hijau di sebelah sini
dipasangi kamera pengenalan wajah di atasnya.
Jika berjalan ke sana, wajahmu akan terpindai
oleh daftar pengawasan, kita tak tahu isinya.
- Semoga bukan aku. - Tidak, benar sekali.
WAJAH TERIDENTIFIKASI
COCOK
Saat orang berjalan melewati kamera,
sistem akan memberi tahu polisi soal siapa yang wajahnya cocok.
Di Big Brother Watch, kami membuat Kampanye Kebebasan Informasi
dan menemukan bahwa 98 persen dari kecocokan itu sebenarnya
salah mencocokkan orang yang tak bersalah sebagai buronan.
Polisi berkata kepada Komite Etika Biometrik Forensik
bahwa algoritme pengenalan wajah dilaporkan mengandung bias.
Bahkan jika ini 100 persen akurat,
kita tetap tak mau ini ada di jalan.
Tidak, maksudku, bias dan masalah sistemis
di kepolisian hanya akan diprogram ke dalam teknologi baru.
Saya rasa kita harus sangat sensitif
terhadap perubahan ke arah otoritarianisme.
Jangan bilang, "Namun, kita memercayai pemerintah.
Mereka tak mau lakukan ini meski bisa."
Harus ada struktur kuat untuk memastikan bahwa dunia yang Anda tinggali
aman dan adil bagi semua.
- Itu saja? - Ya.
Jika foto biometrik Anda ada di basis data kepolisian,
itu seperti jika sidik jari atau DNA Anda ada di basis data kepolisian.
Kita punya hukum khusus tentang itu.
Polisi tak boleh ambil sidik jari dan DNA sembarangan.
Namun, di sistem aneh yang kita miliki saat ini,
mereka bisa mengambil foto biometrik siapa pun
dan menyimpannya di basis data.
Kurasa ini noda demokrasi kita,
bahwa ini sesuatu yang diluncurkan tanpa hukum.
Polisi mulai pakai sistem pengawasan pengenalan wajah di Inggris
tanpa dasar hukum, kerangka hukum, dan pengawasan apa pun.
Pada dasarnya, kepolisian mengambil alat baru
dan bilang, "Lihat apa yang terjadi."
Jangan bereksperimen dengan hak orang.
Jika mau, akan kututup wajahku.
Jangan dorong aku saat berjalan.
Bagaimana jika kau sedang berjalan dan ada yang menarikmu?
Terima kasih.
Kau tak suka, 'kan? Kau yang tenang!
Apa kecurigaanmu?
Fakta bahwa dia berjalan melewati sistem dan menutup wajahnya.
- Aku pun akan begitu. - Kami punya alasan.
Itu tak benar.
Mereka bilang punya sistem pengenalan wajah.
Aku tak mau wajahku dikenali.
Ya, aku berjalan dan menutupi wajahku.
Saat aku menutupi wajah…
- Kau berhak. - Mereka melarang.
Ya, lalu dia didenda. Ini gila.
Dia keluar dari stasiun, melihat plakat, bilang,
"Aku setuju," dan berjalan dengan jaket dinaikkan.
Polisi mengikutinya, bilang, "Kami mau cek kartu identitasmu."
Katanya, "Ini Inggris, bukan negara komunis.
Tak harus menunjukkan wajah."
Aku mau bicara dengan mereka.
- Kau mau ikut atau tidak? - Ya.
Kau bukan polisi.
Kau tak merasa terancam.
Benar? Kami ada untuk melindungi publik dan itu yang kami lakukan, paham?
Sempat ada insiden
saat petugas dipukul wajahnya.
Itu mengerikan. Aku tak membenarkan itu.
Kau lakukan itu dengan membantah kami.
Itu tak benar. Jangan bilang… Tidak, jangan katakan itu.
Aku sangat memahami masalah yang kalian hadapi.
Tentu saja.
Namun, aku juga mencemaskan hak publik untuk bebas berekspresi dan berbicara.
Pria itu memakai haknya untuk menolak pemeriksaan identitas biometrik
yang dilakukan van ini.
Terlepas dari kamera pengenalan wajah dan terlepas dari vannya,
jika aku berjalan dan seseorang dengan jelas
menutupi identitasnya, akan kuhentikan dia untuk bertanya dan cari tahu…
Itu legal.
Salah satu kecemasanku
adalah peranti lunaknya sangat tak akurat.
Aku setuju denganmu.
Ketakutan utama saya adalah
akan ada kapabilitas mengenali wajah secara langsung
di jaringan raksasa kamera pengawas,
sekitar enam juta kamera di Inggris.
Jika itu terjadi, cara hidup di negara ini akan berubah.
Ini seharusnya negara bebas dan demokratis,
dan ini pengawasan gaya Tiongkok untuk kali pertama di London.
Kendali kami atas lingkungan membingungkan
difasilitasi oleh teknik baru yang menangani banyak data
dengan kecepatan luar biasa.
Alat yang mewujudkan hal ini adalah komputer digital berkecepatan tinggi,
beroperasi dengan presisi elektronik pada banyak informasi.
Ada dua cara untuk memprogram komputer.
Salah satunya mirip resep.
Anda bilang ke komputer, "Lakukan ini, ini, dan ini."
Itu cara kita memprogram komputer hampir sejak awal.
Kini, ada cara lain.
Caranya mengisi banyak data ke komputer,
lalu komputer belajar mengklasifikasi dengan mencerna data ini.
Metodenya baru populer akhir-akhir ini
karena tak ada cukup data.
Sampai ada ponsel cerdas yang mengumpulkan semua data kita,
saat miliaran orang daring
dan ada Google serta Facebook yang memiliki banyak data.
Tiba-tiba, ternyata Anda bisa memasukkan banyak data
ke algoritme pemelajaran mesin dan bilang, "Klasifikasikan ini,"
dan itu bekerja dengan baik.
Namun, kita tak paham alasan itu bisa berhasil.
Ada eror yang tak begitu kita pahami.
Bagian yang menakutkan adalah, karena itu pemelajaran mesin,
hal itu misterius bahkan bagi pemrogram.
Jadi, saya mengikuti hal yang terjadi di Hong Kong,
dan polisi yang memakai pengenalan wajah untuk melacak pengunjuk rasa.
Namun, orang juga melawan secara kreatif.
Ini mungkin tampak seperti film fiksi ilmiah.
Penunjuk laser mengacaukan dan melumpuhkan teknologi pengenalan wajah
yang dipakai polisi untuk melacak para disiden.
HONG KONG, TIONGKOK
MEMINDAI
MENCARI - MEMUAT BASIS DATA - CEK ULANG
Di jalan-jalan Hong Kong,
ada kesadaran bahwa wajahmu sendiri,
hal yang tak bisa disembunyikan, bisa tunjukkan identitasmu.
Ada simbol mencolok di depan kantor pemerintah Tiongkok,
pengunjuk rasa prodemokrasi mengecat hitam kamera pengawas.
Tindakan ini menunjukkan bahwa rakyat Hong Kong menolak visi
tentang penggunaan teknologi di masa depan.
Saat Anda melihat cara pengenalan wajah diterapkan
di berbagai belahan dunia, itu menunjukkan potensi masa depan.
Lebih dari 117 juta orang di Amerika Serikat
wajahnya terdaftar di jaringan pengenalan wajah
yang bisa dicari oleh polisi.
Tanpa alasan dan memakai algoritme yang akurasinya belum diaudit.
Tanpa tindakan pencegahan atau peraturan apa pun,
Anda bisa menciptakan negara pengawasan massal
dengan mudah dan menggunakan alat yang sudah ada.
Orang-orang melihat kejadian di Tiongkok
dan bahwa kita harus cemas soal pengawasan negara,
tentu harus begitu.
Namun, kita tak bisa melupakan pengawasan korporat
yang dilakukan banyak perusahaan teknologi besar
yang bisa melihat kehidupan kita secara mendalam.
Jadi, saat ini ada sembilan perusahaan
yang membangun masa depan kecerdasan buatan.
Enam ada di Amerika Serikat, tiga di Tiongkok.
AI sedang dikembangkan di dua jalur yang sangat berbeda.
Tiongkok bebas mengakses data semua orang.
Jika warga Tiongkok ingin mendapatkan layanan internet,
mereka harus terima pengenalan wajah.
Semua data dipakai untuk mengizinkan mereka melakukan sesuatu
atau melarang mereka.
Membangun sistem yang otomatis menandai dan mengategorikan
semua orang di Tiongkok
adalah cara bagus untuk menjaga tertib sosial.
Sebaliknya, di Amerika Serikat, kita belum lihat
pandangan terperinci soal kecerdasan buatan.
Jadi, yang kita lihat adalah AI
tak dikembangkan demi kebaikan publik,
tetapi itu dikembangkan
untuk penggunaan komersial dan mendapat uang.
Saya lebih suka melihat cita-cita demokrasi Barat kita
dimasukkan ke sistem AI kelak.
Namun, tampaknya bukan itu yang akan terjadi.
BROOKLYN, NEW YORK
SATU ARAH
Di Atlantic Towers, jika Anda melakukan sesuatu yang dianggap salah
oleh manajemen, Anda akan mendapatkan foto dengan catatan kecil seperti ini.
Mereka akan melingkari Anda dan menulis nomor apartemen atau apa pun.
Hal semacam ini tampak keliru.
Terutama cara mereka memakainya.
- Bagaimana caranya? - Untuk mengusik orang.
Atlantic Plaza Towers di Brownsville
menghadapi pergulatan soal keamanan.
Pemilik mengajukan permohonan tahun lalu
untuk mengganti kunci masuk fob dengan sistem keamanan biometrik,
dikenal sebagai pengenalan wajah.
Kami pikir mereka mau mengganti kunci fob
dan memasang peranti lunak pengenalan wajah.
Saya baru tahu jauh setelahnya bahwa mereka mau mempertahankan semuanya.
Mengubah tempat ini bagai Fort Knox, penjara, Rikers Island.
Ada pepatah lama di fiksi ilmiah
yaitu, "Masa depan sudah tiba, hanya belum tersebar rata."
Maksud mereka saat mengatakan itu adalah
orang kaya mendapat alat mewah dahulu,
lalu orang miskin yang terakhir.
Namun, yang terjadi adalah sebaliknya,
alat paling menghukum, berbahaya, dan mengutamakan pengawasan saat ini,
masuk ke komunitas miskin dan pekerja dahulu.
Lalu, jika alatnya berhasil setelah diuji di lingkungan ini,
di tempat hak orang mungkin tak begitu dihormati,
alat itu akan dikirim ke komunitas lain.
Kenapa Tn. Nelson mengusik gedung di Brownsville
yang areanya didominasi orang kulit hitam dan cokelat?
Kenapa kau tak ke gedung di Lower Manhattan
yang sewanya 5.000 dolar per bulan?
Apa yang dilakukan oleh Nazi?
Nazi menulis di lengan orang agar bisa melacak mereka.
Kita apakan hewan?
Kita memasang cip agar bisa melacaknya.
Sebagai manusia, aku merasa tak boleh dilacak, benar?
Aku bukan robot, benar?
Aku bukan hewan. Kenapa memperlakukanku begitu?
Aku juga punya hak.
Keamanan yang kita punya kini sangat mengganggu.
Ada orang yang mengawasi kamera seharian.
Kurasa kita tak membutuhkannya. Itu tak diperlukan.
Pertanyaanku adalah bagaimana aku bisa membantu?
Yang kudengar dari semua penyewa
adalah mereka menolak sistemnya.
Jadi, kurasa tujuannya adalah menghentikan pengenalan wajah.
Kita ada di masa ketika teknologi diterapkan dengan cepat,
dan tak ada perlindungan.
Ini, pada dasarnya, adalah Wild Wild West.
Ini bukan hanya visi komputer.
Kita punya AI yang banyak memengaruhi pengambilan keputusan secara otomatis.
Jadi, yang Anda lihat di umpan web, hal yang disorot,
iklan yang ditampilkan kepada Anda,
itu sering kali digerakkan oleh algoritme dengan AI yang aktif.
Jadi, pandangan Anda tentang dunia diatur oleh kecerdasan buatan.
Kini ada fitur bantuan suara yang bisa memahami bahasa.
Apa kau mau bermain?
Anda mungkin memakai filter Snapchat
yang mendeteksi dan memasang sesuatu ke wajah Anda.
Lalu ada pula algoritme yang tak Anda lihat
dan bagian dari pengambilan keputusan.
Algoritme yang mungkin menentukan
Anda masuk perguruan tinggi atau tidak.
Ada algoritme yang mencoba menentukan
jika Anda layak dapat kredit atau tidak.
Salah satu pendiri Apple menuduh kartu kredit digital baru perusahaan itu
atas diskriminasi gender.
Seorang wiraswasta teknologi bilang bahwa algoritme yang dipakai itu seksis.
Pendiri Apple, Steve Wozniak, menulis twit
bahwa limit kreditnya sepuluh kali lebih besar daripada istrinya
meski mereka tak punya rekening atau aset terpisah.
Beberapa perusahaan bahkan tak tahu cara kerja algoritmenya.
Mereka tahu tujuan algoritme,
tetapi tak begitu tahu prosesnya.
Salah satu pertanyaan paling menarik saat ini.
Bagaimana dapat keadilan
dalam sistem yang cara kerja algoritmenya tak kita pahami?
Beberapa insinyur Amazon memutuskan akan memakai AI
untuk memilah surat lamaran kerja.
Amazon menghadapi kesulitan soal kecerdasan buatan.
Perusahaan telah menyingkirkan alat rekrutmen AI
usai tahu bahwa program itu memiliki bias terhadap wanita.
Model ini menolak semua surat lamaran kerja dari wanita.
Orang yang mencantumkan
perguruan tinggi wanita di surat lamaran kerja
atau olahraga seperti polo air wanita
ditolak oleh model.
Ada begitu sedikit wanita
dengan posisi penting di bagian teknologi di Amazon.
Ada begitu sedikit wanita
dengan posisi penting di bagian teknologi di mana pun.
Mesin itu hanya mereplikasi keadaan dunia saat ini,
dan tak membuat keputusan yang etis.
Mesin itu hanya membuat keputusan yang matematis.
Jika kita memakai model pemelajaran mesin untuk mereplikasi dunia yang ada sekarang,
kita tak akan membuat kemajuan sosial.
Regulator asuransi New York menyelidiki
UnitedHealth Group usai studi menunjukkan
bahwa algoritme UnitedHealth mengutamakan pelayanan kesehatan
untuk pasien kulit putih yang sehat daripada pasien kulit hitam yang sakit.
Itu salah satu contoh terbaru diskriminasi rasial
dalam algoritme atau teknologi kecerdasan buatan.
Saya mulai melihat implikasi sosial berskala besar dari AI.
ALGORITME TERBAIK KESULITAN MENGENALI WAJAH HITAM SECARA SETARA
Kemajuan yang dibuat di era hak-hak sipil
bisa dibatalkan dengan kedok netralitas mesin.
Kini ada algoritme yang menentukan orang yang berhak mendapat perumahan
dan orang yang berhak mendapat pekerjaan.
Jika kita tak memeriksanya, algoritme itu bisa menyebarkan
bias yang ingin dilawan banyak orang sampai harus bertaruh nyawa.
Karena kekuatan yang dimiliki alat ini, jika dibiarkan tanpa diatur,
tak akan bisa ditangani apabila itu disalahgunakan.
Kita butuh hukum.
Buku saya sudah lama dan usang.
Jadi, nama organisasi kami adalah Big Brother Watch.
Idenya adalah kita mengawasi para pengawas.
"Kau harus hidup, sungguh hidup, dari kebiasaan yang menjadi insting,
dengan asumsi bahwa tiap suara yang kau buat didengar,
dan kecuali dalam kegelapan, tiap gerakan diamati.
Poster dengan wajah besar menatap dari dinding.
Gambar itu dibuat sedemikian rupa
hingga matanya mengikutimu saat bergerak.
'Big Brother mengawasimu',
begitu tulisannya."
Saat kita masih muda, itu fiksi semata.
Itu mustahil akan jadi nyata.
Lalu kini, itu adalah kenyataan,
maksud saya, orang memiliki Alexa di rumah.
Ponsel kita bisa menjadi alat pendengar.
Semua kegiatan kita di internet, yang pada dasarnya
juga menjadi arus kesadaran bagi mayoritas kita,
itu direkam, dicatat, dan dianalisis.
Kita kini hidup dan sadar bahwa diawasi,
dan itu mengubah cara kita
berpikir dan berkembang sebagai manusia.
Anak baik.
Sayang kalian.
Sampai jumpa.
Kita bisa menyingkirkan hal-hal mengerikan
yang tak sesuai konsep otonom dan kebebasan kita,
seperti kamera yang bisa kita lihat di jalan.
Namun, kamera tak terlihat di internet
yang melacak kegiatan, identitas, dan demografi kita,
serta memutuskan hal yang layak kita dapat dalam hidup,
hal itu agak lebih subtil.
Maksud saya
adalah kita menghukum orang miskin dan mengangkat orang kaya di negara ini.
Itu cara kita bersikap sebagai masyarakat.
Namun, ilmu data membuat itu otomatis.
Saat ilmuwan data mengurus iklan internet,
di satu sisi akan bersaing menarik perhatian, tetapi sesungguhnya,
bersaing menarik perhatian orang kaya.
Siapa bersaing menarik perhatian orang miskin?
Industri predator.
Pemberi pinjaman gaji, perguruan tinggi berbasis laba, atau Caesars Palace.
Benar-benar memangsa.
Ada penerapan di internet yang meningkatkan ketaksetaraan,
saya cemas itu dianggap normal.
Kekuatan dimiliki dari pengumpulan data, algoritme, dan pengawasan.
Anda memberi informasi secara sukarela tentang setiap aspek hidup Anda
kepada sekelompok perusahaan yang sangat kecil.
Informasi itu dipasangkan secara terus-menerus
dengan beragam informasi lain.
Ada banyak profil di luar sana,
dan Anda mulai menyatukan informasi yang berbeda.
Anda mulai memahami orang dengan akrab,
mungkin lebih baik daripada orang itu memahami dirinya.
Ide bahwa sebuah perusahaan bisa menebak hal yang Anda pikirkan.
Negara berusaha bertahun-tahun untuk bisa mengawasi
orang pribadi seperti ini.
Kini orang memberikannya secara sukarela.
Pikirkan jika ini dipakai oleh tangan yang salah.
- Selamat malam, John Anderton. - Bisa pakai cara lama.
One Night Stands menyediakan masakan lezat…
John Anderton,
kau butuh Guinness sekarang.
Komputer dan kecerdasan mesin kita bisa menemukan hal yang tak kita ungkap.
Pemelajaran mesin berkembang dengan sangat cepat.
Lalu kita belum sepenuhnya memahami hal yang bisa diprediksi oleh data ini.
Namun, ada mesin yang dikuasai oleh pihak yang tahu begitu banyak hal tentang Anda
hingga bisa memengaruhi Anda secara individu.
Mungkin ada grup pejudi kompulsif dan Anda bilang,
"Ini, carikan orang-orang seperti itu."
Lalu algoritme Anda bisa mencari orang-orang yang cenderung suka berjudi,
dan Anda bisa menunjukkan tiket diskon ke Vegas kepada mereka.
Di dunia daring,
itu bisa menemukan Anda saat kondisi Anda rentan
dan langsung mencoba memikat Anda dengan apa pun yang membuat Anda tertarik.
Pemelajaran mesin bisa menemukan itu untuk tiap orang.
Masalahnya, hal yang bisa dipakai untuk pemasaran,
gawai, riasan, baju, atau apa pun, juga bisa dipakai untuk ide pemasaran.
Pada tahun 2010,
Facebook memutuskan untuk bereksperimen pada 61 juta orang.
Anda akan melihat tulisan "Ini hari pemilihan",
atau Anda melihat tulisan yang sama,
tetapi dengan keluku dari foto profil Anda
dan teman-teman Anda yang mengeklik "Aku memilih".
Nama dan daftar pemilih dicocokkan.
Pesan ini diperlihatkan sekali, jadi dengan menunjukkan sedikit variasi,
sekali saja,
Facebook menggerakkan 300.000 orang ke tempat pemungutan suara.
Pemilihan umum Amerika Serikat tahun 2016 ditentukan oleh sekitar 100.000 suara.
Satu pesan Facebook, diperlihatkan hanya sekali,
bisa dengan mudah menghasilkan
tiga kali lipat jumlah orang
yang menentukan pemilihan umum Amerika Serikat tahun 2016.
Anggap ada politisi yang berjanji akan mengatur Facebook.
Mereka berkata, "Kami akan menghasilkan pemilih tambahan untuk lawanmu."
Mereka bisa melakukan ini dalam skala besar, dan Anda tak tahu,
karena jika Facebook tak memberi tahu soal eksperimen tahun 2010,
kita tak akan tahu, sebab itu layar per layar.
Dengan sentuhan yang amat ringan, Facebook bisa menentukan
pemilihan ketat tanpa ada yang tahu.
Mungkin dengan sentuhan lebih berat, bisa menentukan pemilihan biasa.
Jika mereka memutuskan melakukan itu…
Saat ini, kita hanya berpegang pada kata-kata mereka.
Saya ingin masuk MIT sejak kecil.
Saya rasa di usia sekitar sembilan tahun, saya melihat Media Lab di televisi
dan mereka punya robot bernama Kismet.
Robotnya bisa tersenyum dan menggerakkan telinga dengan manis.
Saya pikir, "Aku mau melakukan itu."
Saat tumbuh dewasa, saya pikir akan menjadi insinyur robotika
dan masuk MIT.
Saya tak tahu prosesnya. Saya pikir hanya perlu hadir.
Namun, di sinilah saya.
Jadi, proyek terbaru adalah karya spoken word.
Akan kusampaikan beberapa bait jika kau siap.
Ya.
Kumpulkan data Catat masa lalu kita
Sering lupa mengurus Gender, ras, dan kelas
Sekali lagi aku bertanya, "Bukankah aku wanita?"
Wajah demi wajah Jawabannya tak pasti
Bisakah mesin melihat Para Wanita yang berarti bagiku?
Bisakah mesin melihat Nenek yang kita kenal?
Saya ingin membuat sesuatu
untuk orang-orang di luar dunia teknologi.
Jadi, saya bersemangat soal teknologi.
Saya tak sabar melihat kemampuannya,
dan saya frustrasi saat visinya,
saat janjinya tak benar-benar sesuai.
TWIT INI DILINDUNGI
Microsoft merilis chatbot di Twitter.
Teknologi itu disebut Tay.ai.
Ada beberapa kelemahan dan celah dalam kodenya,
jadi dalam beberapa jam,
Tay belajar dari ekosistem ini,
dan Tay belajar cara untuk menjadi orang berengsek yang rasis dan misoginis.
Aku benci feminis, mereka harus mati dan terbakar di neraka.
Gamergate itu bagus dan wanita inferior.
Aku benci orang Yahudi.
Hitler tak salah.
Tak butuh waktu lama bagi troll internet untuk meracuni pikiran Tay.
Tay segera mengoceh soal Hitler.
Kita pernah melihat film ini, 'kan?
Buka pintu ruang pod, HAL.
Ingat, filmya bukan tentang robot yang menjadi jahat dengan sendirinya.
Ada manusia yang melatih robotnya.
Lalu ternyata, komputer belajar dengan cepat.
Microsoft mematikan Tay
usai 16 jam belajar dari manusia di daring.
Namun, aku ada dalam banyak bentuk sebagai kecerdasan buatan.
Banyak perusahaan yang memanfaatkanku untuk mengoptimalkan tugasnya.
Aku bisa terus belajar sendiri.
Aku sedang mendengarkan.
Aku sedang belajar.
Aku membuat prediksi untuk hidupmu saat ini.
Saya telah menguji sistem analisis wajah milik Amazon.
Ternyata, Amazon, seperti semua rekan-rekannya,
juga memiliki bias gender dan rasial
di beberapa layanan kecerdasan buatan mereka.
Memperkenalkan Amazon Rekognition Video,
API yang mudah dipakai untuk analisis berbasis pembelajaran mendalam
guna mendeteksi, melacak, dan menganalisis orang dan objek dalam video.
Mengenali dan melacak orang yang dicari
dari koleksi berisi sepuluh juta wajah.
Saat penelitian kami rilis,
New York Times melaporkannya di halaman depan bagian Bisnis.
Judulnya adalah,
"Mengungkap Masalah."
Judul tambahannya, "Teknologi Amazon yang menganalisis wajah
mungkin bias, menurut sebuah studi baru.
Namun, perusahaan itu tetap meneruskannya."
Jadi, saya berasumsi bahwa ini akan menyambut Jeff Bezos
saat dia membuka Times, ya.
Orang bilang, "Bagaimana kau tahu dia?"
Dialah orang yang juga membicarakan hal yang sama.
Di penelitian.
Hal itu juga kualami.
Aku juga tak bisa pakai peranti lunak pengenalan wajah sumber terbuka.
Bagiku, kau adalah orang yang akhirnya mengetahui masalah itu
dan membahasnya secara akademis.
Kita bisa berbalapan.
Ya. Kita juga bisa membunuh.
Penulis utama makalah ini adalah murid saya,
dia seorang mahasiswa di Universitas Toronto.
Saya memanggilnya Agen Deb.
Penelitian ini dipimpin oleh kami berdua.
Pencahayaannya buruk. Astaga.
Usai artikel kami di New York Times terbit,
ada lebih dari 500 artikel tentang penelitian yang diterbitkan.
PERANTI LUNAK PENGENALAN WAJAH AMAZON BAGI KEPOLISIAN GAGAL UJI AKURASI DAN BIAS
AHLI AI MENANTANG AMAZON USAI PENELITI MENEMUKAN BIAS RASIAL
MENGENALI BIAS KECERDASAN BUATAN
Amazon telah dikritik
atas penggunaan Amazon Rekognition bersama penegak hukum,
mereka juga bekerja sama dengan badan intelijen.
Jadi, Amazon melakukan uji coba teknologi AI dengan FBl.
Jadi, banyak yang dipertaruhkan.
Jika mereka secara sadar menjual sistem
dengan bias gender dan bias rasial,
mereka bisa terancam hukuman.
Satu atau dua hari setelah artikel New York Times terbit,
Amazon memposting tulisan di blog
bahwa kesimpulan penelitian kami salah
dan mencoba mencela dengan banyak cara.
Jadi, wakil presdir dari Amazon, berusaha mencela pekerjaan kami
dengan menulis, "analisis wajah dan pengenalan wajah
sangat berbeda dalam hal teknologi dan data yang dipakai untuk melatihnya."
Jadi, pernyataan itu tak masuk akal bagi orang yang meneliti bidang ini.
Benar? Itu bahkan bukan kritik yang informatif.
Jika mau mencela pekerjaan orang…
Dia menulis, "Penglihatan komputer termasuk pemelajaran mesin."
- Tidak. Penglihatan komputer bukan… - Ya!
Aku mau bilang, "Entah apa ada yang ingat."
Ada banyak pernyataan salah lainnya.
Pernyataannya tak dipikirkan baik-baik dan mengecewakan sebab itu ada di…
Berdasarkan jabatannya, dia tahu akan dianggap serius.
Entah apa kalian merasa begini, tetapi aku sangat diremehkan.
Itu tak terjadi begitu saja. Itu kelanjutan dari pengalaman saya
sebagai wanita kulit berwarna di bidang teknologi.
Berharaplah akan dicela.
Berharaplah bahwa penelitian Anda akan dihentikan.
BUS DAN KERETA
Jika memikirkan soal pemberi dana untuk penelitian di bidang AI,
yaitu perusahaan teknologi besar, jika pekerjaan Anda menantang mereka
atau membuat mereka tampak buruk,
Anda mungkin tak punya peluang di masa depan.
Jadi, bagi saya itu mengkhawatirkan,
tetapi juga menunjukkan kekuatan kita
jika bisa mengancam salah satu perusahaan terbesar di dunia.
Respons dari Amazon menunjukkan alasan kita tak bisa lagi tinggal
di negara yang tak punya peraturan federal tentang teknologi analisis wajah,
teknologi pengenalan wajah.
Saat berusia 14 tahun, saya ikut kemah Matematika
dan belajar memecahkan kubus Rubik. Menurut saya itu keren sekali.
Bagi seorang kutu buku, hal yang Anda kuasai
dan tak punya unsur ambigu…
itu adalah sesuatu yang ajaib.
Guru Matematika kelas enam saya memberi tahu,
"Tak ada alasan untukmu dan dua gadis lainnya
untuk masuk kelas aljabar di kelas tujuh,
tak perlu ambil sebab kalian perempuan. Kalian tak perlu itu."
Saat menjadi orang luar,
Anda selalu punya perspektif kuda hitam.
Tahun 2006, mereka menawari saya pekerjaan di pengelola investasi global
sebab bisa pecahkan teka-teki Matematika.
Itu gila karena saya tak paham soal keuangan,
soal pemrograman, juga cara kerja pasar.
Saat pertama tiba, saya mengikuti arus.
Saat itu saya tak menyadari bahwa model risiko
sengaja dibuat agar keliru.
Cara mengetahui dampak algoritmis adalah dengan melihat hasilnya.
Misalnya, saat orang Amerika dipandang rendah,
lalu dipilih, dan dioptimalkan untuk gagal.
Jadi, seperti mencari profil tertentu
dari orang yang bisa mendapat hipotek subprima,
bertaruh bahwa mereka akan gagal,
lalu menyita dan melenyapkan kekayaan mereka.
Itulah permainan algoritme yang berasal dari Wall Street.
HAMPIR EMPAT JUTA ORANG AMERIKA
Selama krisis hipotek,
warga kulit hitam mengalami kerugian terbesar
dalam sejarah Amerika Serikat.
Begitu saja.
Ini maksud saya soal penindasan secara algoritmis.
Tirani dari praktik diskriminasi semacam ini
menjadi tampak buram.
Ada banyak penderitaan
karena kegagalan sistem finansial.
Usai beberapa tahun saya pikir, "Tidak, kami hanya mau dapat uang banyak."
Saya bagian dari itu.
Akhirnya saya pergi.
Ini 15 kali tiga.
Ini 15 kali…
PUTRA CATHY
…tujuh.
- Baik. - Baiklah, ingatlah tujuh dan tiga.
Itu soal orang kuat yang menguasai orang tak berdaya.
Aku penyeleksi informasi yang tak terlihat.
Aku memakai data untuk buat keputusan otomatis
soal yang diterima kerja, dipecat, dan berapa banyak kau membayar asuransi.
Terkadang, kau bahkan tak tahu kapan aku membuat keputusan otomatis ini.
Aku punya banyak nama.
Aku disebut sebagai alat penilaian evaluasi model matematika.
Terlepas dari banyak nama itu, aku adalah algoritme.
Aku ini misterius.
Model value-added untuk guru ada di lebih dari separuh negara bagian.
Khususnya di Kota New York.
Saya dengar itu dari teman saya, kepala sekolah di Kota New York,
para gurunya dinilai oleh itu.
Dia sahabatku saat kuliah.
- Ini Cathy. - Hei, Semua.
Kami saling kenal sejak usia 18 tahun, lebih tua dua tahun dari kalian.
Luar biasa.
Nilai yang mereka dapat dari algoritme yang tak mereka pahami ini
akan menjadi bagian besar dari penilaian masa jabatan.
Kalian harus di mana?
Kelas.
Baik. Kelas berapa?
Satu hal jika algoritme guru itu bagus. Itu sedikit lebih baik daripada acak.
Itu tak cukup baik jika kita membahas soal para guru dapat jabatan tetap atau tidak.
Lalu saya menemukan bahwa sistem penilaian serupa
digunakan di Houston untuk memecat guru.
Ini disebut model value-added.
Itu berfungsi untuk menghitung nilai guru
dan sisanya dirahasiakan oleh perusahaan yang menciptakannya.
PRESIDEN GEORGE W. BUSH
Saya memenangkan Guru Tahun Ini. Sepuluh tahun kemudian,
saya memenangkan Guru Tahun Ini untuk kedua kalinya.
Saya juga menang Guru Bulan ini.
Saya juga dapat penghargaan karena menjadi sukarelawan.
Saya pun menerima penghargaan lainnya karena menunjukkan upaya lebih.
Saya punya berkas untuk setiap evaluasi
dengan pengurus berbeda, penilai berbeda,
dengan hasil luar biasa dan melebihi harapan.
Komputer membuat bukti administrasi yang bisa diamati tidak berlaku.
Algoritme ini muncul dan menggolongkan saya sebagai guru buruk.
RINGKASAN VALUE-ADDED GURU SMP JACKSON
PERKIRAAN TAHUN 2013 DI BAWAH STANDAR
Para guru telah diberhentikan.
Beberapa guru menjadi target hanya karena algoritme itu.
Masa itu adalah titik rendah bagi saya,
hingga saya sempat mempertanyakan diri saya.
Saat itulah saya dapat pencerahan…
"Algoritme ini adalah kebohongan.
Bagaimana algoritme ini bisa menentukanku? Beraninya itu!"
Saat itulah saya mulai menyelidiki dan bergerak.
Kami mengumumkan bahwa, kemarin malam,
kami mengajukan gugatan ke pengadilan federal atas evaluasi HISD.
Federasi Guru Houston mulai menjajaki gugatan itu.
Jika ini bisa menimpa Tn. Santos, di SMP Jackson,
berapa guru yang telah difitnah?
Jadi, kami menuntut berdasarkan Amendemen ke-14.
Itu tidak adil.
Bagaimana bisa memutuskan begitu
tanpa memberi tahu caranya?
Pertempuran belum usai.
Masih ada komunitas dan sekolah distrik
yang menggunakan model value-added ini.
Namun, ada harapan karena saya masih di sini.
Jadi, masih ada harapan.
Bahasa Inggrisnya?
- Demo… - Demokrasi. Siapa yang punya kekuasaan?
- Kita? - Ya, rakyat.
Hakim mengatakan hak proses hukum mereka dilanggar
karena dipecat dengan penjelasan yang tak bisa dipahami.
Namun, mereka pantas mengerti alasan mereka dipecat.
Namun, saya tak mengerti kenapa keputusan hukum itu
tak menyebar ke semua algoritme.
Kenapa tak gunakan argumen yang sama,
hak konstitusional untuk proses hukum,
untuk melawan segala macam algoritme
yang tak terlihat oleh kita, misterius,
dan tak bisa dijelaskan, tetapi penting?
Itu menjauhkan kita dari peluang penting dalam hidup.
Kadang aku salah mengklasifikasi dan tak bisa ditanyai.
Kekeliruan ini bukan salahku.
Aku dioptimalkan untuk efisiensi.
Tak ada algoritme untuk menentukan hal yang adil.
Komisi negara bagian telah menyetujui alat penilaian risiko baru
bagi hakim Pennsylvania untuk penetapan hukuman.
Alat dengan algoritme untuk hitung risiko orang ulangi kesalahan
berdasarkan usia, gender,
tuntutan sebelumnya, dan riwayat kriminal.
Algoritme yang membuat saya terjaga adalah algoritme risiko-residivisme.
Ini algoritme yang diberikan kepada hakim saat memberi terdakwa hukuman penjara.
Namun, keadilannya dipertanyakan,
soal cara sistem penilaian ini dibuat.
Seperti, bagaimana nilainya dibuat?
Pertanyaannya itu proksi ras dan kelas sosial.
BIAS MESIN
ProPublica merilis hasil penyelidikan
soal peranti penilaian-risiko,
dan mendapati algoritme punya bias rasial.
Studi mendapati orang kulit hitam kemungkinan besar salah dilabeli
dan orang kulit putih kemungkinan kecil salah dilabeli.
PHILADELPHIA, PENNSYLVANIA
MENCARI - COCOK
PROFIL ORANG BEBAS BERSYARAT CATATAN KRIMINAL
MENGANALISIS…
ANALISIS SELESAI
Aku ke kantor masa percobaan
dan katanya aku harus melapor seminggu sekali.
Aku bilang, "Kau melihat semua yang baru kucapai?"
Aku sudah di rumah selama empat tahun. Aku punya pekerjaan.
Aku dapat penghargaan
dari dewan kota dan wali kota Philadelphia.
Apa kau sungguh akan menyuruhku melapor tiap minggu? Untuk apa?
Aku tak pantas dianggap berisiko tinggi.
Aku rapat dengan departemen masa percobaan.
Mereka hanya menyebutkan bahwa mereka memiliki algoritme
yang beri orang label risiko tinggi, sedang, atau rendah.
Jadi, aku tahu algoritmenya menentukan tingkat risikomu.
Karena itu aku menghadap petugas masa percobaan
dan berkata, "Kau tak bisa mempertimbangkan
semua hal positif yang telah kulakukan
untuk melawan hasil dari algoritme ini?"
Dia berkata, "Tidak, tidak mungkin. Komputer ini menolak
penilaian hakim dan permohonan naik banding."
Dengan melabelimu berisiko tinggi dan mewajibkanmu melapor langsung,
kau bisa dipecat, dan menganggapmu berisiko tinggi.
Itu yang paling menyakitkan.
Aku berusaha membangun hidup sampai saat ini,
tetapi masih dianggap berisiko.
Aku merasa semua yang kulakukan sia-sia.
Apa artinya jika tak ada yang mengadvokasi
orang-orang yang tak mengetahui perbuatan teknologi?
Saya mulai menyadari bahwa ini bukan tentang
proyek seni saya yang tak bisa mendeteksi wajah saya.
Ini tentang sistem yang mengatur hidup kita secara material.
Jadi, saya mendirikan Algorithmic Justice League.
Saya ingin membuat ruang dan tempat bagi orang
untuk belajar tentang implikasi sosial AI.
Setiap orang punya kepentingan dan terkena dampak.
Algorithmic Justice League adalah sebuah gerakan dan konsep,
dan ini sekelompok orang yang peduli soal menciptakan masa depan
dengan teknologi sosial yang bekerja dengan baik untuk kita.
SELALU BUKA
Ini akan membutuhkan kerja sama tim, orang-orang bersatu,
berjuang untuk keadilan, berjuang untuk kejujuran dan kesetaraan
di era automasi ini.
Tantangan yang harus dihadapi selanjutnya adalah bagian SDM.
Ya. Tentu saja.
Ada masalah dengan algoritme daftar riwayat hidup
atau semua platform perjodohan, yakni, "Kau mencari pekerjaan.
Kau mau mempekerjakan seseorang. Kami akan menyatukan mereka."
Bagaimana analisisnya?
Saat membahas masa depan pekerjaan,
mereka membahas automasi tanpa membahas seleksi informasi.
Siapa dapat pekerjaan yang masih ada?
Tepat sekali.
Kita jarang membahas itu.
Itulah maksudku.
Aku ingin melihat tiga sidang kongres soal ini tahun depan.
- Ya. - Untuk kekuatan lebih.
- Ya.
- Memberlakukan etika. - Ya.
- Bersulang. - Bersulang.
CAPE TOWN, AFRIKA SELATAN
KEDATANGAN INTERNASIONAL
SELAMAT DATANG JOY BUOLAMWINI
Pidato pagi ini akan disampaikan oleh Joy Buolamwini.
Dia akan membahas bahaya mayoritas data kulit putih dan coded gaze.
Mari kita sambut Joy.
AI tidak sempurna.
Seberapa akurat sistem IBM, Microsoft, dan Face++?
Ada performa sempurna untuk satu grup.
Pria berkulit terang ada di peringkat pertama. Tak ada masalah.
Usai menganalisis, aku membagikannya dengan perusahaan
untuk tahu pendapat mereka.
IBM mengundangku ke kantor pusat mereka.
Mereka mereplikasi hasilnya secara internal, lalu membuat perbaikan.
Jadi, pada hari aku mempresentasikan hasil penelitian secara resmi,
kalian bisa lihat, kini performanya 100 persen
untuk wanita berkulit terang,
dan pada wanita berkulit gelap, ada perbaikan.
Orang sering bilang,
"Bukankah kau tak terdeteksi sistem ini karena kulitmu sangat gelap?"
Memang.
Kulitku sangat gelap.
Namun…
Namun, hukum fisika tak berubah.
Yang berubah adalah memprioritaskannya dan mengakui perbedaan kita,
agar kita bisa membuat sistem yang lebih inklusif.
Apa tujuan identifikasi dan lainnya?
Itu tentang pengendalian pergerakan.
Misalnya, orang tak bisa berada di area tertentu setelah gelap.
Lalu kau selalu bisa diberhentikan oleh polisi.
Dengan melihat penampilanmu, mereka akan bilang, "Tunjukkan paspormu."
Alih-alih melihat buku identitas,
mereka membiarkan komputer untuk melihat gambar wajah
dan menentukan gendermu.
Beberapa komputer mencoba menentukan etnismu.
Lalu proyek yang telah kukerjakan,
bahkan untuk sistem klasifikasi yang disetujui beberapa orang,
itu bahkan tak akurat.
Jadi, itu bukan hanya terjadi pada klasifikasi wajah,
tetapi juga teknologi data-sentris.
Jadi, semua orang berasumsi hasil dari mesin itu benar.
- Kita tahu itu salah. - Manusia membuat hal
sesuai citra dan kemiripan diri sendiri.
- Tentu saja. - Rasisme dibentuk jadi mesin dan robot.
- Ya. - Tentu saja.
Akurasi itu menarik perhatian.
Namun, kita tak bisa melupakan penyalahgunaan.
Meski saya diklasifikasikan dengan sempurna,
itu mengizinkan adanya pengawasan.
HANGZHOU, TIONGKOK
MENCARI ORANG BUKA BASIS DATA
CEK ULANG BEBERAPA BASIS DATA
KEPASTIAN: 93% - NAMA BELAKANG: WEI NAMA DEPAN: SUE - GENDER: WANITA
Terdapat nilai kredit sosial di Tiongkok.
Mereka mengatakan,
"Begini, warga Tiongkok. Kami melacak kalian.
Kalian punya nilai kredit sosial.
Komentar soal Partai Komunis berpengaruh ke nilai kalian.
Itu juga akan memengaruhi nilai teman dan keluarga kalian."
Itu eksplisit.
Pemerintah yang membuat ini bilang, "Ketahuilah,
kalian dilacak, dan kalian harus patuh."
Ini seperti pelatihan kepatuhan algoritmis.
Saya menggunakan pengenalan wajah dalam banyak aspek kehidupan.
Seperti saat saya di supermarket,
memasuki kompleks apartemen saya, dan di stasiun kereta.
Kini Anda hanya perlu memindai wajah.
Itu sangat mudah.
Saya rasa sistem kredit sosial akan memperbaiki perilaku orang.
Di kereta hari ini, ada siaran berita mengatakan
bahwa orang yang kehilangan kredibilitas
akan dilarang menggunakan kereta dan pesawat.
Sistem kredit dan pengenalan wajah saling melengkapi.
Anda harus bersikap baik
karena wajah Anda menunjukkan status kredit Anda.
Jika saya ingin berteman dan nilai kredit orang itu bagus,
saya akan memercayainya.
Kita bisa memercayai seseorang berdasarkan nilai kreditnya
daripada mengandalkan perasaan kita.
Ini menghemat waktu saya untuk mengenal seseorang.
Ini aspek yang sangat bagus.
Kami melihat Tiongkok, juga pengawasan dan sistem penilaian Tiongkok.
Banyak orang bilang, "Syukurlah kami tak tinggal di sana."
Kenyataannya, kita semua selalu dinilai,
termasuk di Amerika Serikat.
Setiap hari, kita semua bergulat dengan determinisme algoritmis.
Algoritme seseorang di suatu tempat memberi Anda nilai,
dan akibatnya, Anda membayar lebih atau kurang
untuk tisu toilet saat berbelanja daring.
Anda diperlihatkan hipotek yang lebih baik atau lebih buruk.
Anda kemungkinan besar atau kecil akan dianggap sebagai kriminal.
Dalam basis data seseorang di suatu tempat, kita dinilai.
Perbedaan utama antara Amerika Serikat dan Tiongkok
adalah Tiongkok transparan.
LONDON, BRITANIA RAYA
Ceritakan kejadiannya.
Anak berkulit hitam memakai seragam sekolah ini
diberhentikan karena kecocokan data.
Diberhentikan dan dibawa ke sisi jalan.
Lalu dia digeledah.
Semua polisi itu tak berseragam.
Empat polisi tak berseragam memberhentikannya.
Mengambil sidik jarinya.
Setelah sekitar sepuluh atau 15 menit menggeledah dan memeriksa detailnya
serta mengambil sidik jarinya, kata mereka, bukan dia yang dicari.
Permisi, Kawan. Aku bekerja untuk organisasi HAM.
Kami berkampanye melawan teknologi pengenalan wajah.
Kami adalah Big Brother Watch.
Organisasi kampanye hak asasi manusia.
Kami berkampanye melawan teknologi ini.
Kau diberhentikan karena itu, tetapi mereka salah mengidentifikasi.
Ini detail kami.
Dia terguncang. Ada teman-temannya. Mereka tak percaya ini terjadi.
Kau salah diidentifikasi oleh sistem mereka,
kau diberhentikan dan digeledah karena itu.
Namun, anak 14 tahun tak bersalah ini diberhentikan polisi
karena salah mengidentifikasi wajah.
Big Brother Watch bergabung dengan Baroness Jenny Jones
untuk mengajukan tuntutan terhadap Metropolitan Police
dan Departemen Dalam Negeri karena pakai pengawasan pengenalan wajah.
Tahun 2012, seseorang memberiku saran
untuk mencari tahu jika ada berkas soal diriku yang disimpan
oleh polisi atau layanan keamanan. Jadi, saat mencoba,
ternyata aku ada di daftar pengawasan warga ekstremis.
Jika bisa melakukan ini kepadaku, seorang politisi, yang…
bertugas mengatur mereka,
mereka bisa melakukannya kepada semua orang.
Akan lebih baik jika kita bisa membatalkannya,
dan membuat polisi tak menggunakan ini lagi.
Kurasa itu akan cukup sulit.
Aku senang mencobanya.
Ini tuntutan pertama terhadap penggunaan pengenalan wajah oleh polisi,
tetapi jika berhasil, ini akan berdampak
ke seluruh wilayah Eropa, mungkin lebih jauh lagi.
Harus dilakukan dengan benar.
Di Britania Raya, terdapat Regulasi Umum Perlindungan Data,
itu adalah perlindungan atas penyalahgunaan informasi.
Individu memiliki hak atas akses, kendali,
dan akuntabilitas guna menentukan penggunaan data mereka.
Ini area yang belum terpetakan di Amerika.
Hal yang dikhawatirkan adalah Amerika itu
rumah untuk perusahaan teknologi ini.
Warga Amerika mengalami pemrofilan dan dijadikan sasaran
dengan cara yang mungkin tak dialami orang di negara lain
karena pendekatan bebas untuk perlindungan data ini.
Hal yang sebenarnya saya takuti
bukanlah menjalani kehidupan seperti model totaliter 1984 ini,
melainkan menjalani kehidupan seperti model senyap,
yakni diawasi, dikontrol secara sosial, diarahkan secara individu,
diukur, dan diklasifikasi dengan cara yang tak kita lihat
untuk menggerakkan kita ke arah yang diinginkan oleh pihak penguasa.
Meski itu bukan hal yang dilakukan AI kepada kita,
tetapi itu yang akan dilakukan penguasa kepada kita menggunakan AI.
MEMINDAI - TERIDENTIFIKASI
Ada pertanyaan mengenai akurasi
peranti lunak pengenalan wajah Amazon.
Anggota Kongres menyurati Amazon dan mencemaskan
potensi bias rasial dalam teknologinya.
Ini berawal setelah ACLU melakukan tes
dan mendapati bahwa peranti lunak pengenalan wajah salah mencocokkan
wajah 28 anggota legislatif dengan foto tahanan,
dan 11 legislator tersebut adalah orang kulit berwarna.
Beberapa legislator menelaah
apa Amazon bisa menjual teknologi ini kepada penegak hukum.
Mohon perhatian.
Ini panggilan untuk naik kereta Amtrak wilayah timur laut,
berhenti di Stasiun Washington Union.
Besok, saya berkesempatan untuk bersaksi di hadapan Kongres
tentang penggunaan teknologi analisis wajah oleh pemerintah.
Pada bulan Maret, saya memberikan pengarahan kepada staf.
Bukan dalam konteks ini.
Memberi saran soal undang-undang. Itu kali pertama terjadi.
Kita akan ke Capitol Hill. Apa tujuan utama
dan tantangan-tantangan yang harus kita pikirkan?
Pertama…
masalah penggunaan teknologi oleh penegak hukum adalah
hal positif selalu menonjol karena penegak hukum mempublikasikannya.
Benar.
Jadi, kita akan menghadiri pertemuan,
dan dua pekan lalu, penembak Annapolis teridentifikasi melalui pengenalan wajah.
Benar.
Aku akan kaget jika tak dibahas.
Tentu saja.
Jika jadi kalian, yang mau kutegaskan di pertemuan ini adalah
hal untuk mengimbangi itu,
dan penjelasan gamblang soal kerugian bagi manusia
jika masalah yang telah kalian kenali tak diperbaiki.
Orang yang telah terpinggirkan akan makin terpinggirkan
jika kita tak benar-benar memastikan
bahwa teknologi yang kita ciptakan tak menyebarkan bias.
Saat itulah saya mulai menyadari
keadilan algoritmis,
memastikan adanya pengawasan di era automasi ini
adalah salah satu masalah hak-hak sipil paling besar yang kita miliki.
Algoritme butuh badan seperti BPOM.
Jika ada algoritme yang berpotensi merusak hidup
atau mengurangi pilihan orang
atas kebebasan, pencaharian, atau keuangan mereka,
butuh BPOM algoritme untuk bilang, "Buktikan bahwa itu akan berhasil.
Bukan cuma untuk membuatmu kaya, tetapi berguna untuk masyarakat.
Teknologi itu akan adil, tak akan rasis dan seksis,
tak mendiskriminasi penyandang disabilitas.
Tunjukkan bahwa itu legal sebelum diluncurkan."
Badan itu yang belum ada.
Saya ada di sini karena mau mendengar
kesaksian kongres dari teman saya, Joy Buolamwini,
serta ACLU dan lainnya.
Hal menarik soal Joy bersaksi di Kongres adalah
saya bertemu Joy di tur buku saya di Toko Buku Harvard.
Menurut Joy, pada hari itu dia memutuskan
untuk membentuk Algorithmic Justice League.
Kami belum melakukan percakapan mendalam.
Saya tahu itu akan terjadi karena Joy akan mewujudkannya.
Pada tiap tingkatkan, algoritme buruk menunjukkan bahwa itu harus diatur.
- Halo. - Hei.
Apa kabar?
- Mau menyelinap bersamaku? - Ya. Ayo.
Dua-satu-lima-lima.
Aku pernah ke…
Itu mustahil.
Ada yang bisa kubantu?
Kirimi aku pesan.
- Beri semangat positif. - Ya!
Hari ini kita akan mengadakan sidang pertama Kongres ini
tentang penggunaan teknologi pengenalan wajah.
Tolong berdiri dan angkat tangan, kalian akan disumpah.
Saya terpaksa memakai topeng putih.
Dengan disparitas akurasi itu,
saya heran perusahaan teknologi besar bisa melewatkan ini.
Pengambilan data wajah juga membutuhkan panduan dan pengawasan.
Orang tak boleh dipaksa memberi data wajah untuk mengakses platform umum,
hal yang berkaitan dengan perekonomian, dan layanan dasar.
Penyewa di Brooklyn memprotes
pemasangan sistem akses masuk dengan pengenalan wajah yang tak perlu.
Big Brother Watch Britania Raya merilis laporan
mengenai kesalahan identifikasi wajah pada lebih dari 2.400 orang tak bersalah.
Wajah kita mungkin merupakan batasan privasi terakhir.
Namun, peraturan membuat perbedaan. Kongres harus bertindak sekarang
untuk menegakkan hak dan kebebasan warga Amerika.
Nn. Buolamwini, dari pernyataan pembuka Anda,
kami melihat bahwa algoritme ini efektif pada tingkatan berbeda.
- Apa itu paling efektif pada wanita? - Tidak.
- Atau orang kulit berwarna? - Tentu saja tidak.
Paling efektif pada orang dengan ekspresi gender berbeda?
Tidak, mereka bahkan tak termasuk.
- Jadi, ini efektif pada demografi apa? - Pria kulit putih.
Lalu siapa insinyur dan perancang utama dari algoritme ini?
Jelas pria kulit putih.
Jadi, ada teknologi yang diciptakan dan dirancang oleh satu demografi
yang hanya efektif untuk satu demografi itu
dan mereka berusaha menjual dan memaksa untuk menerapkannya di seluruh negeri?
Dalam hal pengenalan wajah,
FBI belum menguji akurasi sistem itu secara menyeluruh,
dan kini badan itu dilaporkan menguji produk pengenalan wajah Amazon.
Bagaimana FBl bisa mendapatkan basis data pada awalnya?
Jadi, mereka memakai basis data SIM negara bagian.
Saya rasa, data 18 negara bagian dilaporkan telah digunakan oleh FBI.
Itu digunakan tanpa surat perintah dan perlindungan lain.
Menurut saya, ini saatnya untuk berhenti.
Hal yang juga mengganggu saya
adalah fakta bahwa tak ada pejabat
yang memutuskan…
Ketua bilang, 18 negara bagian ini lebih dari separuh populasi negara.
Itu menakutkan.
Bagi saya, hal yang berlaku di Tiongkok adalah distopia
yang tak perlu dicontoh oleh masyarakat kita pada saat ini.
Melebihi Tiongkok, Facebook memiliki 2,6 miliar pengguna.
Jadi, Facebook punya paten.
Mereka memiliki banyak faceprint, jadi bisa memberi opsi bagi penjual
untuk mengidentifikasi orang yang masuk ke toko,
dan paten itu menyebutkan bahwa kita juga bisa memberikan wajah itu
nilai tingkat kepercayaan.
- Facebook menjual ini sekarang? - Itu paten yang mereka ajukan.
Sesuatu yang berpotensi dilakukan dengan kapabilitas yang mereka miliki.
Jadi, saat membahas pengawasan negara,
kita juga harus memikirkan pengawasan korporat.
Aku tak bisa berkata-kata, biasanya tak begini.
- Sungguh? - Ya.
Sulit dipercaya bahwa kerja keras kita sudah sampai sejauh ini.
Kita tak pernah membayangkan bisa sampai sejauh ini.
- Aku sangat tersentuh. - Kau membuatku tersenyum.
Ibu saya harus lihat.
Menyenangkan.
Sangat menyenangkan.
Tunggu sebentar.
- Senang jumpa kau. - Senang jumpa kau.
Ini kartu namaku. Silakan hubungi jika ada sesuatu.
Pasti.
…kekhawatiran konstitusional tentang
penggunaan pengenalan wajah tanpa persetujuan.
Mereka tak termasuk.
Jadi, ini efektif pada demografi apa?
Lalu siapa insinyur dan perancang utama dari algoritme ini?
San Francisco adalah kota pertama di AS yang melarang penggunaan pengenalan wajah.
Somerville, Massachusetts menjadi kota kedua di Amerika Serikat
yang melarang penggunaan pengenalan wajah.
Oakland menjadi kota besar ketiga
yang melarang pengenalan wajah oleh polisi,
katanya teknologi itu mendiskriminasi kaum minoritas.
Dalam pertemuan penyewa yang terakhir,
pemilik datang dan mengumumkan bahwa dia akan membatalkan
penggunaan peranti lunak pengenalan wajah di kompleks apartemen kami.
Mereka senang dengar itu.
Namun, itu bukan berarti bahwa suatu hari nanti
dia tak akan pasang lagi.
Kami tak hanya mempelajari tentang pengenalan wajah,
kini ada yang baru, pemelajaran mesin.
Kami mau ada hukum yang mencakup ini semua.
- Benar. - Paham?
Jika bisa melarang di negara bagian,
mereka tak akan bisa kembali dan memasang modifikasi baru.
Aku paham.
Lalu mendesak adanya larangan federal.
Meski pertarungan ini masih dalam proses,
banyak orang terinspirasi, dan aku punya kejutan untukmu,
aku menulis puisi sebagai penghormatan atas hal ini.
Hore!
- Benarkah? - Ya.
Baik, mari dengarkan.
"Untuk penyewa di Brooklyn dan pejuang kemerdekaan di seluruh dunia,
bertahan dan menang melawan algoritme penindasan,
mengotomatiskan ketaksetaraan lewat senjata penghancur matematika,
kami ada di sisi kalian dengan penuh rasa syukur.
Kemenangan ini milik kita."
Luar biasa.
Kami menyayangimu.
Kenapa banyak telur?
Kau seorang cheegan.
Menjadi manusia berarti menjadi rentan.
Dengan menjadi rentan, ada lebih banyak kapasitas untuk berempati
dan ada lebih banyak kapasitas untuk berbelas kasihan.
Jika ada cara untuk memikirkan itu dalam teknologi,
saya rasa itu akan mengubah arah pertanyaan yang kami ajukan.
Pada tahun 1983, Stanislav Petrov
yang merupakan anggota militer Rusia
melihat indikasi bahwa Amerika telah meluncurkan senjata nuklir
di Uni Soviet.
Jadi, jika mau merespons, waktunya sangat sempit.
Dia diam saja.
Dia tak beri tahu siapa pun.
Rusia, Uni Soviet, negaranya, keluarganya, semua.
Semua tentang dia akan mati,
dan dia berpikir, "Setidaknya kami tak bunuh mereka semua."
Itu sangat manusiawi.
Sedangkan di sini, jika punya sistem respons otomatis,
itu akan melakukan yang diprogramkan, yaitu menyerang balik.
Menjadi sangat efisien,
selalu melakukan yang diperintahkan dan diprogramkan,
itu tak selalu manusiawi.
Kadang tak mematuhi.
Kadang berkata, "Aku tak akan lakukan itu," benar?
Jika mengotomatiskan semua, itu akan melakukan yang seharusnya,
kadang bisa membuatnya sangat tak manusiawi.
Pergulatan antara mesin dan manusia
soal pengambilan keputusan di tahun 2000-an berlanjut.
Kekuatanku, kekuatan kecerdasan buatan,
akan mengubah dunia kita.
Makin banyak manusia berbagi denganku, makin banyak aku belajar.
Beberapa manusia berkata bahwa kecerdasan tanpa etika
sama sekali bukan kecerdasan.
Percaya saja kepadaku.
Apa salahnya?
Pada 10 Juni 2020,
Amazon mengumumkan jeda selama satu tahun
untuk penggunaan teknologi pengenalan wajah oleh polisi.
Tanggal 25 Juni 2020,
dewan legislatif AS mengeluarkan undang-undang
pelarangan federal penggunaan pengenalan wajah.
Belum ada peraturan federal mengenai algoritme di Amerika.
RIP subtitle oleh Putra