OpenAI mengedepankan faktor keamanan dalam pengembangan model kecerdasan buatan.

Jakarta (ANTARA) – Perusahaan penelitian dan pengembangan kecerdasan buatan OpenAI menempatkan keamanan sebagai prioritas utama dalam pengembangan model-model kecerdasan buatan atau AI, terutama dengan meningkatnya kekhawatiran terkait risiko yang ditimbulkan oleh teknologi ini.

Sejumlah pemimpin di perusahaan teknologi global telah mengungkapkan perlunya untuk memperlambat pengembangan AI karena meningkatnya risiko yang dianggap mengkhawatirkan.

Kepala Kebijakan Asia Tenggara OpenAI, Sandy Kunvatanagarn, dalam sebuah forum diskusi di Jakarta pada hari Rabu, menyatakan bahwa OpenAI menerapkan pendekatan keamanan berlapis dalam mengembangkan model AI dan terus memperbaikinya sejalan dengan kemajuan kemampuan AI.

“Aspek keamanan diterapkan di setiap tahap, mulai dari pelatihan model AI, tahap pasca-pelatihan, hingga pengembangan berbagai perlengkapan dan produk yang berbasiskan model tersebut,” ujarnya.

OpenAI juga menyediakan laporan dan membuka akses informasi untuk membantu para peneliti serta institusi lain memahami kemampuan dan batasan model AI yang dikembangkan.

Selanjutnya, perusahaan mengakui masukan dari masyarakat sebagai dukungan dalam proses evaluasi dan pengembangan AI.

Misalnya, perusahaan memanfaatkan masukan dari komunitas untuk meningkatkan aspek keamanan saat mengembangkan produk yang ditujukan untuk anak-anak dan remaja.

Sandy menjelaskan bahwa interaksi dengan komunitas, termasuk komunitas orang tua, dapat memberikan wawasan mengenai kekhawatiran masyarakat terhadap penggunaan AI.

“Semua ini menunjukkan bahwa kemampuan model-model (AI) ini berkembang dengan sangat cepat, dan kami terus memperbarui pendekatan keamanan kami secara real time,” tegasnya.