OpenAI Bentuk Tim Cegah Kiamat AI, Khawatir Jika Umat Manusia Musnah
MedanWow.id – OpenAI membentuk tim dengan tujuan mencegah kiamat kecerdasan buatan (AI). Karena, organisasi tersebut mengungkapkan kekhawatirannya tentang potensi pemusnahan umat manusia karena AI pemberontak.
Sesuai OpenAI, AI memiliki kapasitas untuk berkembang menjadi superintelligence.
Hal ini akan menjadi lompatan teknologi paling penting yang pernah dicapai umat manusia, sebagaimana dikutip dari okzone.com dari Ubergizmo pada Senin (10/7/2023).
Namun, Ilya Sutskever dan Jan Leike dari OpenAI memperingatkan manusia kurang siap untuk bergulat dengan AI. Apalagi jika teknologi sudah melampaui kemampuan kognitif mereka sendiri.
Tim OpenAI mengakui bahaya yang akan datang dari AI superintelligent dan mengakui saat ini mereka tidak memiliki solusi untuk mengontrol atau mengarahkan perilakunya.
Metodologi yang ada untuk menyelaraskan AI, seperti pembelajaran penguatan dari umpan balik manusia, bergantung pada pengawasan manusia.
Baca Juga : Gunakan Generative AI, Google Pastikan Tidak Akan Mematikan Mesin Pencarinya
Kendati demikian, karena sistem AI melampaui kecerdasan manusia, pengawasan ini menjadi tidak dapat diandalkan. Sutskever, salah satu pendiri dan kepala ilmuwan OpenAI, bersama Tuan Leike, kepala departemen penyelarasan OpenAI, sedang membentuk sekelompok peneliti dan insinyur yang ditugaskan demi mengatasi hambatan teknis yang ditimbulkan oleh kecerdasan super.
Mereka telah menetapkan tenggat waktu empat tahun bagi tim untuk mencapai tujuan ini.
Meski prospek umat manusia mengkhawatirkan, para pemimpin di OpenAI mempertahankan pandangan optimis menemukan solusi. Mereka yakin dengan upaya terfokus dan terpadu, kesulitan dapat diselesaikan.
Konsep yang mendorong dan eksperimen pendahuluan, ditambah dengan kemajuan yang terukur dan kemampuan untuk mempelajari tantangan ini secara empiris menggunakan model AI saat ini, berkontribusi pada sanguinitas mereka.
Sutskever dan Leike menekankan dedikasi mereka yang tak tergoyahkan untuk menyebarluaskan hasil kerja mereka secara luas. OpenAI secara aktif merekrut insinyur riset, ilmuwan, dan manajer yang memiliki kepentingan dalam mencegah dominasi atau pemberantasan kemanusiaan oleh AI.
Selain itu, OpenAI telah mengumumkan ketersediaan luas GPT-4, model AI mereka yang paling mumpuni, dengan tujuan membuatnya lebih mudah diakses oleh pengembang.
(mw/ds)
