Isi
Disajikan oleh: AltaML
Q:
Mengapa beberapa perusahaan mempertimbangkan untuk menambahkan "kontrol umpan balik manusia" ke sistem AI modern?
SEBUAH:
Beberapa perusahaan yang bekerja dengan teknologi AI mutakhir sedang bekerja untuk melembagakan kontrol manusia untuk sistem ini, memberikan alat pembelajaran dan alat pembelajaran yang dalam beberapa pengawasan langsung manusia. Perusahaan-perusahaan ini bukan pemain kecil, baik - Google DeepMind dan OpenAI Elon Musk adalah dua contoh perusahaan besar yang terlibat dalam kemajuan kecerdasan buatan. Dengan mengingat hal itu, hasilnya berbeda - misalnya, DeepMind telah menjadi subyek kontroversi karena keengganannya yang dirasakan untuk memberikan data kunci kepada publik, sementara OpenAI jauh lebih, yah, Buka tentang pekerjaannya mengendalikan kecerdasan buatan.
Bahkan tokoh-tokoh terkemuka seperti Bill Gates telah mempertimbangkan masalah ini, Gates mengatakan bahwa ia adalah salah satu dari banyak orang yang prihatin dengan munculnya superintelijen buatan yang dalam beberapa hal mungkin bergerak di luar kendali manusia. Musk, pada bagiannya, juga telah mengajukan beberapa bahasa yang mengkhawatirkan tentang kemungkinan "AI nakal."
Itu mungkin alasan paling mendesak bahwa perusahaan bekerja untuk menerapkan kontrol manusia pada AI - gagasan bahwa beberapa teknologi akan menghasilkan teknologi yang sangat kuat yang tidak bisa dikendalikan manusia lagi. Sejak awal ambisi manusia, kami telah menempatkan alat-alat untuk memastikan bahwa kami dapat mengendalikan kekuatan yang kami miliki - apakah itu kuda dengan tali kekang dan tali kekang, listrik di kabel terisolasi, atau jenis mekanisme kontrol lainnya, memiliki kontrol adalah fungsi bawaan manusia dan karenanya masuk akal di dunia bahwa ketika kecerdasan buatan mendekati fungsi nyata, manusia menerapkan kontrol langsung mereka sendiri untuk menjaga kekuatan itu tetap terkendali.
Namun, ketakutan akan robot super-cerdas bukan satu-satunya alasan perusahaan menerapkan kontrol manusia untuk pembelajaran mesin dan proyek AI. Alasan utama lainnya adalah bias mesin - ini adalah gagasan bahwa sistem kecerdasan buatan sering terbatas dalam cara mereka mengevaluasi data yang dipermasalahkan - sehingga mereka memperbesar bias yang melekat dalam sistem. Sebagian besar profesional yang berurusan dengan pembelajaran mesin dapat menceritakan kisah-kisah horor tentang sistem TI yang tidak mampu memperlakukan kelompok pengguna manusia sama - apakah itu perbedaan gender atau etnis, atau kegagalan sistem lainnya untuk benar-benar memahami nuansa masyarakat manusia kita dan bagaimana kita berinteraksi dengan orang-orang.
Dalam arti tertentu, kami mungkin menempatkan kontrol manusia pada sistem karena kami takut mereka mungkin terlalu kuat - atau secara bergantian, karena kami takut mereka mungkin tidak cukup kuat. Kontrol manusia membantu menargetkan set data pembelajaran alat berat untuk memberikan lebih banyak presisi. Mereka membantu memperkuat gagasan bahwa komputer tidak bisa belajar sendiri, baik karena modelnya tidak cukup canggih, karena AI belum berkembang cukup jauh, atau karena beberapa hal hanya terletak di provinsi kognisi manusia. Kecerdasan buatan bagus untuk beberapa hal - misalnya, sistem berbasis penghargaan dan skor memungkinkan kecerdasan buatan mengalahkan pemain manusia di permainan papan yang sangat kompleks "Go" - tetapi untuk hal-hal lain, sistem berbasis insentif ini adalah sepenuhnya tidak memadai.
Singkatnya, ada banyak alasan kuat untuk membuat pengguna manusia terlibat secara langsung dalam cara kerja proyek kecerdasan buatan. Bahkan teknologi kecerdasan buatan terbaik dapat melakukan banyak pemikiran sendiri - tetapi tanpa otak manusia biologis yang sebenarnya yang dapat memproses hal-hal seperti emosi dan kebiasaan sosial, mereka tidak dapat melihat gambaran besar dengan cara manusia.
Perusahaan pembelajaran mesin yang terampil dapat membantu mencapai keseimbangan ini dengan campuran pakar bisnis dan subjek dan pengembang pembelajaran mesin dengan keterampilan untuk memecahkan masalah bisnis besar.
