Di belakang tentang berita bahwa Fakultas startup AI yang berbasis di Inggris telah mengumpulkan $42,5 juta dalam putaran pendanaan pertumbuhan, saya menggoda lebih banyak dari CEO dan salah satu pendiri Marc Warner tentang apa rencananya untuk perusahaan.

Fakultas tampaknya memiliki bakat luar biasa untuk memenangkan kontrak pemerintah Inggris, setelah membantu Boris Johnson memenangkan kampanye Vote Leave dan dengan demikian menjadi perdana menteri. Itu bahkan membantu menyelesaikan kekacauan yang kemudian dibuat oleh Brexit dari industri perikanan, masalah dengan NHS dan memberi tahu perusahaan global seperti Red Bull dan Virgin Media apa yang harus disarankan kepada pelanggan mereka. Sementara itu, ia terus mengumpulkan lulusan PhD dengan kecepatan tinggi untuk bekerja pada platform AI-nya.

Namun, berbicara kepada saya melalui telepon, Warner mengatakan bahwa perusahaan tidak lagi memiliki rencana untuk memasuki ranah politik lagi: “Tidak akan pernah lagi. Ini sangat kontroversial. Saya tidak ingin menyatakan bahwa menurut saya politik itu tidak etis. Mencoba membuat dunia menjadi lebih baik, dalam dimensi apa pun yang Anda bisa, adalah hal yang baik… Tapi dari sudut pandang kami, itu, Anda tahu, ‘berisik,’ dan tujuan kami sebagai sebuah organisasi, terlepas dari penampilan saat ini yang bertentangan, bukanlah untuk menghabiskan banyak waktu membicarakan hal ini. Kami percaya ini adalah teknologi penting yang harus ada di luar sana dan harus berada di tangan yang lebih luas daripada hanya raksasa teknologi, yang sudah sangat ahli dalam hal itu.

Tentang investasi, dia berkata: “Pada dasarnya, uangnya adalah tentang menggandakan Inggris terlebih dahulu dan kemudian ekspansi internasional. Selama sekitar tujuh tahun terakhir, kami telah mempelajari apa yang diperlukan untuk melakukan AI yang penting, AI yang berdampak, dalam skala besar. Dan kami hanya tidak berpikir bahwa sebenarnya ada banyak hal di luar sana. Pelanggan memang terkadang sedikit skeptis, karena ada hype seputar hal ini selama bertahun-tahun. Kami menemukan banyak aplikasi dunia nyata yang membuat ini berfungsi sehingga benar-benar memberikan nilai. Jadi, pada akhirnya, uang itu benar-benar hanya tentang kemampuan membangun semua bagian untuk melakukannya dengan sangat baik bagi pelanggan kami.”

Dia mengatakan Fakultas akan tetap berkantor pusat di Inggris untuk memanfaatkan kumpulan bakat Inggris: “Inggris adalah tempat yang luar biasa untuk melakukan AI. Ada universitas yang brilian, tempat startup yang sangat dinamis. Ini sebenarnya lebih beragam daripada San Francisco. Ada pemerintah, ada keuangan, ada korporasi, ada sedikit persaingan dari raksasa teknologi. Ada sedikit lebih banyak ekosistem yang heterogen. Tidak ada gunanya kita berpikir, ‘Benar, itu saja, kita sudah bangun dan keluar!’. Kami senang bekerja di sini, kami ingin membuat segalanya menjadi lebih baik. Kami telah berupaya keras untuk mencoba membantu organisasi seperti pemerintah dan NHS, tetapi juga banyak perusahaan Inggris yang mencoba merangkul teknologi ini, jadi itu masih akan menjadi bagian yang sangat penting dari bisnis kami.”

Meskipun demikian, Fakultas berencana untuk berekspansi ke luar negeri: “Kami juga akan mulai melihat lebih jauh, dan membawa semua pelajaran yang telah kami pelajari ke AS, dan kemudian Eropa.”

Tapi apakah menurutnya putaran pendanaan ini akan membantunya mengungguli saingan potensial lainnya di luar angkasa? “Kami cenderung tidak terlalu memikirkan rival,” katanya. “20 tahun ke depan adalah tentang membangun kecerdasan ke dalam perangkat lunak yang sudah ada. Jika Anda melihat kapitalisasi pasar global dari bisnis perangkat lunak di luar sana, itu sangat besar. Jika Anda mulai menambahkan kecerdasan untuk itu, skala pasar sangat besar sehingga jauh lebih penting bagi kami bahwa kami dapat menggunakan teknologi yang sangat penting ini dan menyebarkannya dengan aman dengan cara yang benar-benar meningkatkan kehidupan orang. Itu bisa membuat produk lebih murah atau membantu organisasi membuat layanan mereka lebih efisien.”

Jika demikian, apakah Fakultas memiliki panel etik yang mengawasi pekerjaannya? “Kami memiliki panel etika internal. Kami memiliki seperangkat prinsip dan jika menurut kami sebuah proyek mungkin melanggar prinsip tersebut, proyek tersebut akan dirujuk ke panel etika tersebut. Itu dipilih secara acak dari seluruh fakultas. Jadi kami cukup berhati-hati dengan proyek yang kami kerjakan dan tidak. Tapi sejujurnya, sebagian besar hal yang terjadi sangat vanila. Mereka jelas merupakan proyek ‘baik untuk dunia’. Sebagian besar pekerjaan kami adalah melakukan pekerjaan yang baik untuk klien korporat untuk membantu mereka membuat bisnis mereka sedikit lebih efisien.”

Saya mendesaknya untuk memperluas masalah etika ini dan potensi bias. Dia mengatakan Fakultas “membangun keamanan sejak awal. Anehnya, alasan saya pertama kali tertarik pada AI adalah membaca karya Nick Bostrom tentang superintelligence dan pentingnya keamanan AI. Dan sejak persekutuan pertama [Faculty AI researchers are called Fellows] sepanjang tahun 2014, kami telah mengajari rekan-rekan tentang keamanan AI. Seiring waktu, segera setelah kami mampu, kami mulai berkontribusi di bidang penelitian. Jadi, kami telah menerbitkan makalah di semua konferensi ilmu komputer terbesar Neurips, ICM, ICLR, dengan topik keamanan AI. Cara membuat algoritme adil, pribadi, tangguh, dan dapat dijelaskan. Jadi ini adalah serangkaian masalah yang sangat kami pedulikan. Dan, menurut saya, umumnya ‘dikurangi’ dalam ekosistem yang lebih luas. Pada akhirnya, seharusnya tidak ada pemisahan antara kinerja dan keselamatan. Ada sedikit kecenderungan di perusahaan lain untuk mengatakan, ‘Ya, Anda bisa memiliki kinerja, atau Anda bisa memiliki keamanan.’ Tapi tentu saja, kita tahu itu tidak benar. Mobil-mobil saat ini lebih cepat dan lebih aman daripada Model T Ford. Jadi ini semacam dikotomi yang salah. Kami telah menginvestasikan banyak upaya dalam kedua kemampuan tersebut, jadi kami jelas ingin dapat menciptakan kinerja yang luar biasa untuk tugas yang ada, tetapi juga untuk memastikan bahwa algoritme tersebut adil, pribadi, tangguh, dan dapat dijelaskan kapan pun diperlukan.”

Itu juga berarti, katanya, bahwa AI mungkin tidak selalu menjadi “hantu” yang tersirat dalam frasa: “Dalam beberapa kasus, mungkin bukan masalah besar jika Anda memutuskan apakah akan menempatkan jumper merah atau jumper biru di atas. dari situs web Anda. Mungkin tidak ada implikasi etis yang besar dalam hal itu. Namun dalam keadaan lain, tentu saja, sangat penting bahwa algoritme aman dan diketahui aman serta dipercaya oleh pengguna dan siapa pun yang menemukannya. Dalam konteks medis, tentunya mereka perlu dipercaya oleh dokter dan pasien perlu memastikan bahwa mereka benar-benar bekerja. Jadi kami benar-benar berada di garis depan dalam menyebarkan hal-hal itu.”

Tahun lalu Guardian melaporkan bahwa Fakultas telah memenangkan tujuh kontrak pemerintah dalam 18 bulan. Untuk apa dia mengaitkan kesuksesan ini? “Yah, maksudku, kita kehilangan lebih banyak lagi! Kami adalah pemasok kecil untuk pemerintah. Kami melakukan yang terbaik untuk melakukan pekerjaan yang berharga bagi mereka. Kami telah bekerja selama bertahun-tahun dengan orang-orang di kantor pusat,” katanya kepada saya.

“Tanpa ingin menjelaskan terlalu banyak detail, 18 bulan itu berlangsung selama beberapa perdana menteri. Saya diangkat ke Dewan AI di bawah Theresa May. Sindiran apa pun tentang ini jelas tidak masuk akal. Namun, setidaknya secara historis, sebagian besar pekerjaan kami adalah di sektor swasta dan itu terus menjadi sangat penting bagi kami sebagai sebuah organisasi. Selama setahun terakhir, kami mencoba meningkatkan dan melakukan bagian kami sebisa mungkin untuk sektor publik. Ini menghadapi situasi yang begitu besar dan sulit di sekitar COVID, dan kami sangat bangga dengan hal-hal yang telah kami capai dengan NHS dan dampak yang kami berikan pada keputusan yang dapat diambil oleh orang senior.

Kembali ke masalah politik, saya bertanya kepadanya apakah menurutnya — setelah peristiwa seperti Brexit dan pemilihan Donald Trump, yang keduanya dipengaruhi oleh kampanye politik berbasis AI — AI terlalu berbahaya untuk diterapkan di arena itu? Dia tertawa: “Itu pertanyaan lama yang lucu… Ini cara yang sangat aneh untuk menyusun pertanyaan. AI hanyalah sebuah teknologi. Pada dasarnya, AI hanyalah matematika.”

Saya bertanya kepadanya apakah menurutnya penerapan AI dalam politik memiliki pengaruh yang terlalu besar atau tidak semestinya pada cara partai politik beroperasi dalam beberapa tahun terakhir: “Saya khawatir hal itu di luar pengetahuan saya,” katanya. Tapi apakah Fakultas menyesal bekerja di ranah politik?

“Saya pikir kami hanya fokus pada pekerjaan kami. Bagaimanapun juga, bukan karena kami memiliki perasaan yang kuat, hanya saja dari sudut pandang kami, jauh lebih menarik untuk dapat melakukan hal-hal yang kami pedulikan, yaitu menerapkan AI di dunia nyata. Itu sedikit jawaban yang membosankan! Tapi itu benar-benar apa yang kita rasakan. Ini lebih tentang melakukan hal-hal yang menurut kami penting, daripada menilai apa yang dilakukan orang lain.

Terakhir, kami menyentuh kemampuan ilmu data di Inggris Raya dan apa yang dapat dilakukan oleh penggalangan dana baru bagi perusahaan.

Dia berkata: “Kami memulai program pendidikan. Kami memiliki sekitar 10% PhD di Inggris dalam bidang fisika, matematika, teknik, yang mendaftar ke program ini. Sekitar 400 atau lebih orang telah mengikuti program itu dan kami berencana untuk mengembangkannya lebih jauh sehingga semakin banyak orang mendapatkan kesempatan untuk memulai karir di bidang ilmu data. Dan kemudian di dalam Fakultas khususnya, kami pikir kami akan dapat menciptakan 400 pekerjaan baru di berbagai bidang seperti rekayasa perangkat lunak, ilmu data, manajemen produk. Ini adalah kemungkinan baru yang sangat menarik bagi orang untuk benar-benar menjadi bagian dari revolusi teknologi. Saya pikir akan ada energi baru yang luar biasa di Fakultas, dan semoga menjadi bagian kecil yang positif dalam meningkatkan ekosistem teknologi Inggris.”

Warner tampil tulus dalam pemikirannya tentang masa depan AI dan jelas antusias tentang ke mana Fakultas dapat mengambil seluruh bidang selanjutnya, baik secara filosofis maupun praktis. Akankah Fakultas segera menantang raksasa AI lainnya, DeepMind, untuk akses ke semua PhD itu? Tidak diragukan lagi itu akan terjadi.