Karena AI telah berkembang dari sekumpulan proyek penelitian untuk memasukkan beberapa model raksasa yang memperkuat industri seperti GPT-3, ada kebutuhan bagi sektor ini untuk berkembang — atau begitulah menurut Dario Amodei, mantan VP penelitian di OpenAI, yang menyerang sendiri untuk membuat perusahaan baru beberapa bulan yang lalu. Anthropic, demikian sebutannya, didirikan bersama saudara perempuannya Daniela dan tujuannya adalah untuk menciptakan “sistem AI skala besar yang dapat dikemudikan, dapat ditafsirkan, dan tangguh”.
Tantangan yang dihadapi saudara kandung Amodei hanyalah bahwa model AI ini, meski sangat kuat, tidak dipahami dengan baik. GPT-3, yang mereka kerjakan, adalah sistem bahasa yang sangat serbaguna yang dapat menghasilkan teks yang sangat meyakinkan dalam hampir semua gaya, dan tentang topik apa pun.
Tetapi katakanlah Anda membuatnya menghasilkan bait berima dengan Shakespeare dan Pope sebagai contoh. Bagaimana cara melakukannya? Apa itu “berpikir”? Kenop mana yang akan Anda atur, dial mana yang akan Anda putar, untuk membuatnya lebih melankolis, kurang romantis, atau membatasi diksi dan leksikonnya dengan cara tertentu? Tentu saja ada parameter yang harus diubah di sana-sini, tetapi benar-benar tidak ada yang tahu persis bagaimana sosis bahasa yang sangat meyakinkan ini dibuat.
Adalah satu hal untuk tidak mengetahui kapan model AI menghasilkan puisi, hal lain lagi ketika model mengawasi department store untuk perilaku mencurigakan, atau mengambil preseden hukum bagi hakim yang akan menjatuhkan hukuman. Saat ini aturan umumnya adalah: semakin kuat sistemnya, semakin sulit untuk menjelaskan tindakannya. Itu bukan tren yang bagus.
“Sistem umum yang besar saat ini dapat memiliki manfaat yang signifikan, tetapi juga tidak dapat diprediksi, tidak dapat diandalkan, dan buram: tujuan kami adalah membuat kemajuan dalam masalah ini,” demikian deskripsi diri perusahaan tersebut. “Untuk saat ini, kami terutama berfokus pada penelitian untuk mencapai tujuan ini; di ujung jalan, kami melihat banyak peluang bagi pekerjaan kami untuk menciptakan nilai secara komersial dan untuk kepentingan publik.”
Tujuannya tampaknya untuk mengintegrasikan prinsip-prinsip keselamatan ke dalam sistem prioritas pengembangan AI yang ada yang umumnya mendukung efisiensi dan kekuatan. Seperti industri lainnya, lebih mudah dan lebih efektif untuk memasukkan sesuatu dari awal daripada memasangnya di akhir. Mencoba membuat beberapa model terbesar di luar sana dapat dipilih dan dipahami mungkin lebih sulit daripada membangunnya sejak awal. Antropik tampaknya mulai segar.
“Tujuan Anthropic adalah untuk membuat kemajuan penelitian fundamental yang akan memungkinkan kami membangun sistem AI yang lebih mumpuni, umum, dan andal, kemudian menerapkan sistem ini dengan cara yang bermanfaat bagi orang-orang,” kata Dario Amodei, CEO usaha baru tersebut, singkatnya memposting mengumumkan perusahaan dan pendanaannya $ 124 juta.
Omong-omong, pendanaan itu bertabur bintang seperti yang Anda harapkan. Itu dipimpin oleh co-founder Skype Jaan Tallinn, dan termasuk James McClave, Dustin Moskovitz, Eric Schmidt dan Center for Emerging Risk Research, antara lain.
Perusahaan ini adalah perusahaan kepentingan publik, dan rencananya untuk saat ini, seperti yang disarankan oleh informasi terbatas di situs, adalah tetap fokus pada penelitian pertanyaan mendasar ini tentang bagaimana membuat model besar lebih mudah diatur dan ditafsirkan. Kami dapat mengharapkan lebih banyak informasi akhir tahun ini, mungkin, karena misi dan tim bersatu dan hasil awal berjalan dengan baik.
Nama itu, kebetulan, bersebelahan dengan antroposentris, dan menyangkut relevansinya dengan pengalaman atau keberadaan manusia. Mungkin itu berasal dari “Prinsip Antropik,” gagasan bahwa kehidupan berakal dimungkinkan di alam semesta karena… yah, kita ada di sini. Jika kecerdasan tidak dapat dihindari dalam kondisi yang tepat, perusahaan hanya perlu menciptakan kondisi tersebut.
