OpenAI Akan Mengakuisisi Platform Keamanan AI Promptfoo, Membangun Kemampuan Enterprise Baru di Frontier
Siapa yang bisa melawan daya tarik teknologi tinggi, terutama saat berbicara tentang AI Security Platform? OpenAI, raksasa AI yang berbasis di San Francisco, baru-baru ini mengumumkan rencana mengejutkan untuk mengakuisisi Promptfoo. Dengan akuisisi ini, teknologi canggih Promptfoo akan diintegrasikan ke dalam OpenAI Frontier, membuka babak baru dalam membangun, menerapkan, dan mengelola armada agen AI. Yang lebih menarik, perpustakaan platform keamanan ini akan tetap open-source di bawah lisensi saat ini.
OpenAI Bersiap Mengakuisisi Promptfoo: Langkah Maju dalam Memperkuat Platform Keamanan AI
Dalam sebuah postingan, raksasa AI mengumumkan target akuisisi terbarunya. Promptfoo, yang didirikan oleh Ian Webster dan Michael D’Angelo di San Francisco pada tahun 2024, dikenal karena kerangka kerja open-source-nya dan alat antarmuka baris perintah (CLI) yang dirancang untuk pengujian, evaluasi, dan red teaming aplikasi model bahasa besar (LLM). Alat open-source ini saat ini dihoskan di GitHub dengan lisensi MIT yang membolehkan penggunaan akademik dan komersial.
“Kami memulai Promptfoo karena pengembang memerlukan cara praktis untuk mengamankan sistem AI. Seiring agen AI semakin terhubung dengan data dan sistem nyata, mengamankan dan memvalidasi mereka menjadi lebih menantang dan penting dari sebelumnya. Bergabung dengan OpenAI memungkinkan kami mempercepat pekerjaan ini, membawa keamanan yang lebih kuat, keamanan, dan kemampuan tata kelola bagi tim yang membangun sistem AI dunia nyata,” kata Ian Webster, Co-founder dan CEO Promptfoo.
Selanjutnya, setelah akuisisi selesai, OpenAI berencana mengintegrasikan stack teknologi Promptfoo ke dalam platform Frontier-nya. Platform berfokus perusahaan ini diluncurkan pada bulan Februari dan merupakan pusat kontrol sentral untuk agen otonom. Perusahaan AI ini mengatakan bahwa perusahaan yang menerapkan agen AI ke dalam alur kerja memerlukan cara sistematis untuk menguji perilaku agen, mendeteksi risiko sebelum penyebaran, dan mempertahankan catatan yang jelas, dan teknologi baru ini akan membantu mengembangkan itu di Frontier.
Beberapa kemampuan inti baru yang akan diaktifkan oleh Promptfoo termasuk alat pengujian keamanan dan keselamatan baru yang membantu perusahaan mengidentifikasi dan memecahkan risiko besar seperti prompt injections, jailbreaks, kebocoran data, penyalahgunaan alat, dan lainnya.
Di sisi lain, OpenAI Frontier juga akan membangun alat evaluasi yang akan mengidentifikasi, menyelidiki, dan memperbaiki risiko agen dalam alur kerja, dan menawarkan pelaporan dan pelacakan untuk memungkinkan mereka menyimpan catatan pengujian, memantau perubahan seiring waktu, dan memenuhi harapan tata kelola, risiko, dan kepatuhan.
