AI merupakan hal mendasar bagi banyak produk dan layanan saat ini, tetapi kehausannya akan data dan siklus komputasi tidak berdasar. Lightmatter berencana untuk melompati hukum Moore dengan chip fotonik ultra-cepatnya yang dikhususkan untuk pekerjaan AI, dan dengan putaran baru senilai $80 juta, perusahaan siap untuk membawa komputasi bertenaga cahayanya ke pasar.

Kami pertama kali meliput Lightmatter pada tahun 2018, ketika para pendiri baru saja keluar dari MIT dan telah mengumpulkan $11 juta untuk membuktikan bahwa ide komputasi fotonik mereka sama berharganya dengan yang mereka klaim. Mereka menghabiskan tiga tahun berikutnya dan mengubah membangun dan menyempurnakan teknologi — dan menghadapi semua rintangan yang cenderung ditemukan oleh para pemula perangkat keras dan pendiri teknis.

Untuk perincian lengkap tentang apa yang dilakukan teknologi perusahaan, baca fitur itu – hal-hal penting tidak berubah.

Singkatnya, chip Lightmatter bekerja dalam sekejap — secara harfiah — kalkulasi kompleks tertentu yang mendasar untuk pembelajaran mesin. Alih-alih menggunakan muatan, gerbang logika, dan transistor untuk merekam dan memanipulasi data, chip menggunakan sirkuit fotonik yang melakukan kalkulasi dengan memanipulasi jalur cahaya. Sudah mungkin selama bertahun-tahun, tetapi sampai saat ini berhasil dalam skala besar, dan untuk tujuan praktis, memang tujuan yang sangat berharga, belum.

Prototipe ke produk

Tidak sepenuhnya jelas pada tahun 2018 ketika Lightmatter memulai apakah teknologi ini akan menjadi sesuatu yang dapat mereka jual untuk menggantikan cluster komputasi yang lebih tradisional seperti ribuan unit khusus yang digunakan perusahaan seperti Google dan Amazon untuk melatih AI mereka.

“Pada prinsipnya kami tahu bahwa teknologinya harus hebat, tetapi ada banyak detail yang perlu kami pecahkan,” kata CEO dan salah satu pendiri Nick Harris kepada TechCrunch dalam sebuah wawancara. “Banyak tantangan ilmu komputer teoretis dan desain chip yang perlu kami atasi… dan COVID adalah binatang buas.”

Dengan pemasok kehilangan komisi dan banyak industri menghentikan kemitraan, menunda proyek, dan hal-hal lain, pandemi membuat Lightmatter terlambat berbulan-bulan dari jadwal, tetapi mereka muncul di sisi lain dengan lebih kuat. Harris mengatakan bahwa tantangan membangun perusahaan chip dari awal sangat besar, bahkan tidak terduga.

Kredit Gambar: Materi ringan

“Secara umum apa yang kami lakukan cukup gila,” akunya. “Kami membangun komputer dari nol. Kami merancang chip, paket chip, kartu tempat paket chip berada, sistem tempat kartu masuk, dan perangkat lunak yang menjalankannya…. kami harus membangun perusahaan yang memanfaatkan semua keahlian ini.”

Perusahaan itu telah berkembang dari segelintir pendiri menjadi lebih dari 70 karyawan di Mountain View dan Boston, dan pertumbuhan akan terus berlanjut seiring membawa produk barunya ke pasar.

Di mana beberapa tahun yang lalu produk Lightmatter lebih merupakan binar mata yang terinformasi dengan baik, sekarang telah mengambil bentuk yang lebih solid di Envise, yang mereka sebut “akselerator AI fotonik tujuan umum”. Ini adalah unit server yang dirancang agar sesuai dengan rak pusat data normal tetapi dilengkapi dengan beberapa unit komputasi fotonik, yang dapat melakukan proses inferensi jaringan saraf dengan kecepatan yang mencengangkan. (Ini terbatas pada jenis kalkulasi tertentu, yaitu aljabar linier untuk saat ini, dan bukan logika kompleks, tetapi jenis matematika ini merupakan komponen utama dari proses pembelajaran mesin.)

Harris segan untuk memberikan angka pasti tentang peningkatan kinerja, tetapi lebih karena peningkatan itu meningkat daripada itu tidak cukup mengesankan. Situs web menyarankan ini 5x lebih cepat daripada unit Nvidia A100 pada model trafo besar seperti BERT, dengan menggunakan sekitar 15% energi. Itu membuat platform ini sangat menarik bagi raksasa AI berkantung tebal seperti Google dan Amazon, yang terus-menerus membutuhkan lebih banyak daya komputasi dan yang membayar dengan susah payah untuk energi yang dibutuhkan untuk menggunakannya. Performa yang lebih baik atau biaya energi yang lebih rendah akan sangat bagus — keduanya tidak dapat ditolak.

Ini adalah rencana awal Lightmatter untuk menguji unit-unit ini dengan kemungkinan besar pelanggannya pada akhir tahun 2021, menyempurnakannya, dan membawanya ke tingkat produksi sehingga dapat dijual secara luas. Tetapi Harris menekankan bahwa ini pada dasarnya adalah Model T dari pendekatan baru mereka.

“Jika kami benar, kami baru saja menemukan transistor berikutnya,” katanya, dan untuk keperluan komputasi skala besar, klaim tersebut bukan tanpa alasan. Anda tidak akan memiliki komputer fotonik mini di tangan Anda dalam waktu dekat, tetapi di pusat data, di mana sebanyak 10% dari kekuatan dunia diperkirakan akan habis pada tahun 2030, “mereka benar-benar memiliki nafsu makan yang tidak terbatas”.

Warna matematika

Kredit Gambar: Materi ringan

Ada dua cara utama yang digunakan Lightmatter untuk meningkatkan kemampuan komputer fotoniknya. Yang pertama, dan kedengarannya paling tidak masuk akal, diproses dalam berbagai warna.

Ini tidak terlalu liar ketika Anda berpikir tentang bagaimana sebenarnya komputer ini bekerja. Transistor, yang telah menjadi jantung komputasi selama beberapa dekade, menggunakan listrik untuk melakukan operasi logika, membuka dan menutup gerbang, dan sebagainya. Pada skala makro Anda dapat memiliki frekuensi listrik berbeda yang dapat dimanipulasi seperti bentuk gelombang, tetapi pada skala yang lebih kecil ini tidak berfungsi seperti itu. Anda hanya memiliki satu bentuk mata uang, elektron, dan gerbang terbuka atau tertutup.

Namun, dalam perangkat Lightmatter, cahaya melewati pandu gelombang yang melakukan perhitungan saat berjalan, menyederhanakan (dalam beberapa hal) dan mempercepat proses. Dan cahaya, seperti yang kita semua pelajari di kelas sains, datang dalam berbagai panjang gelombang — semuanya bisa digunakan secara mandiri dan bersamaan pada perangkat keras yang sama.

Keajaiban optik yang sama yang memungkinkan sinyal yang dikirim dari laser biru diproses dengan kecepatan cahaya bekerja untuk laser merah atau hijau dengan sedikit modifikasi. Dan jika gelombang cahaya tidak mengganggu satu sama lain, mereka dapat berjalan melalui komponen optik yang sama pada waktu yang sama tanpa kehilangan koherensi apapun.

Kredit Gambar: Materi ringan

Itu berarti bahwa jika chip Lightmatter dapat melakukan, katakanlah, satu juta kalkulasi per detik menggunakan sumber laser merah, menambahkan warna lain menggandakannya menjadi dua juta, menambahkan satu lagi menghasilkan tiga – dengan sangat sedikit modifikasi yang diperlukan. Hambatan utama adalah mendapatkan laser yang sesuai dengan tugasnya, kata Harris. Mampu menggunakan perangkat keras yang kira-kira sama dan kinerja hampir dua kali lipat, tiga kali lipat, atau 20x membuat peta jalan yang bagus.

Ini juga mengarah pada tantangan kedua yang sedang dikerjakan perusahaan, yaitu interkoneksi. Superkomputer apa pun terdiri dari banyak komputer individu kecil, ribuan dan ribuan di antaranya, bekerja dalam sinkronisasi yang sempurna. Agar mereka melakukannya, mereka perlu berkomunikasi terus-menerus untuk memastikan setiap inti tahu apa yang dilakukan inti lain, dan jika tidak mengoordinasikan masalah komputasi yang sangat kompleks yang dirancang untuk ditangani oleh superkomputer. (Intel berbicara tentang masalah “konkurensi” membangun superkomputer skala exa di sini.)

“Salah satu hal yang telah kami pelajari selama ini adalah, bagaimana Anda membuat chip ini berbicara satu sama lain ketika mereka sampai pada titik di mana mereka begitu cepat sehingga mereka hanya duduk menunggu hampir sepanjang waktu? ” kata Haris. Chip Lightmatter bekerja sangat cepat sehingga mereka tidak dapat mengandalkan inti komputasi tradisional untuk berkoordinasi di antara keduanya.

Masalah fotonik, tampaknya, memerlukan solusi fotonik: papan interkoneksi skala wafer yang menggunakan pandu gelombang alih-alih serat optik untuk mentransfer data antara inti yang berbeda. Koneksi serat tidak terlalu lambat, tentu saja, tetapi tidak terlalu cepat, dan serat itu sendiri sebenarnya cukup besar pada skala yang dirancang chip, membatasi jumlah saluran yang dapat Anda miliki di antara inti.

“Kami membuat optik, pandu gelombang, ke dalam chip itu sendiri; kami dapat memasukkan 40 pandu gelombang ke dalam ruang satu serat optik, ”kata Harris. “Itu berarti Anda memiliki lebih banyak jalur yang beroperasi secara paralel – ini membuat Anda mencapai kecepatan interkoneksi yang sangat tinggi.” (Iblis chip dan server dapat menemukan spesifikasi itu di sini.)

Papan interkoneksi optik disebut Passage, dan akan menjadi bagian dari produk Envise generasi mendatang — tetapi seperti perhitungan warna, ini untuk generasi mendatang. Performa lima-10x dengan kekuatan kecil harus memuaskan pelanggan potensial mereka untuk saat ini.

Menempatkan $ 80 juta itu untuk bekerja

Pelanggan tersebut, awalnya penangan data “skala hiper” yang sudah memiliki pusat data dan superkomputer yang mereka maksimalkan, akan mendapatkan chip uji pertama akhir tahun ini. Di situlah tujuan utama putaran B, Harris berkata: “Kami mendanai program akses awal kami.”

Itu berarti membangun perangkat keras untuk dikirim (sangat mahal per unit sebelum skala ekonomi masuk, belum lagi kesulitan saat ini dengan pemasok) dan membangun tim masuk ke pasar. Servis, dukungan, dan sejumlah besar perangkat lunak yang sejalan dengan hal seperti ini — ada banyak perekrutan yang sedang berlangsung.

Putaran itu sendiri dipimpin oleh Viking Global Investors, dengan partisipasi dari HP Enterprise, Lockheed Martin, SIP Global Partners, dan investor sebelumnya GV, Matrix Partners, dan Spark Capital. Ini membuat total mereka terkumpul menjadi sekitar $113 juta; Ada putaran awal $11 juta A, lalu GV melanjutkan dengan $22 juta A-1, lalu $80 juta ini.

Meskipun ada perusahaan lain yang mengejar komputasi fotonik dan aplikasi potensialnya di jaringan saraf khususnya, Harris tampaknya tidak merasa bahwa mereka sedang mengejar Lightmatter. Sedikit jika ada yang tampaknya dekat dengan pengiriman produk, dan bagaimanapun juga ini adalah pasar yang berada di tengah momen tongkat hoki. Dia menunjuk ke studi OpenAI yang menunjukkan bahwa permintaan untuk komputasi terkait AI meningkat jauh lebih cepat daripada yang dapat disediakan oleh teknologi yang ada, kecuali dengan pusat data yang semakin besar.

Dekade berikutnya akan membawa tekanan ekonomi dan politik untuk mengendalikan konsumsi daya itu, seperti yang telah kita lihat dengan dunia cryptocurrency, dan Lightmatter siap dan siap memberikan alternatif yang efisien dan kuat untuk tarif berbasis GPU biasa.

Seperti yang disarankan Harris semoga sebelumnya, apa yang dibuat perusahaannya berpotensi transformatif dalam industri, dan jika demikian tidak perlu terburu-buru – jika ada demam emas, mereka telah mempertaruhkan klaim mereka.