Infomalangraya.com –
Qualcomm sudah tidak asing lagi dalam menjalankan sistem kecerdasan buatan dan pembelajaran mesin di perangkat dan tanpa koneksi internet. Mereka telah melakukannya dengan chipset kamera mereka selama bertahun-tahun. Namun pada hari Selasa di Snapdragon Summit 2023, perusahaan mengumumkan bahwa AI pada perangkat akhirnya hadir di perangkat seluler dan PC Windows 11 sebagai bagian dari chip Snapdragon 8 Gen 3 dan X Elite yang baru.
Kedua chipset ini dibangun dari awal dengan mempertimbangkan kemampuan AI generatif dan mampu mendukung berbagai model bahasa besar (LLM), model visi bahasa (LVM), dan model pengenalan ucapan otomatis (ASR) berbasis jaringan transformator, hingga hingga 10 miliar parameter untuk SD8 gen 3 dan 13 miliar parameter untuk X Elite, seluruhnya di perangkat. Itu berarti Anda dapat menjalankan apa pun mulai dari ERNIE 3.5 Baidu hingga Whisper OpenAI, Llama 2 Meta, atau Gecko Google di ponsel atau laptop Anda, tanpa koneksi internet. Chip Qualcomm dioptimalkan untuk input suara, teks, dan gambar.
“Penting untuk memiliki beragam dukungan agar model-model ini dapat berjalan dan oleh karena itu komputasi heterogen sangatlah penting,” Durga Malladi, SVP & General Manager, Technology Planning & Edge Solutions di Qualcomm, mengatakan kepada wartawan pada acara prebriefing yang lalu. pekan. “Kami memiliki prosesor CPU, GPU, dan NPU (Neural Processing Unit) tercanggih yang digunakan secara bersamaan, karena beberapa model berjalan pada titik waktu tertentu.”
Qualcomm AI Engine terdiri dari CPU Oryon, GPU Adreno, dan NPU Hexagon. Jika digabungkan, mereka menangani hingga 45 TOPS (triliunan operasi per detik) dan dapat mengolah 30 token per detik di laptop, 20 token per detik di perangkat seluler — token menjadi unit teks/data dasar yang dapat diproses/dihasilkan oleh LLM. Chipset ini menggunakan DRAM LP-DDR5x 4,8GHz Samsung untuk alokasi memorinya.
“AI Generatif telah menunjukkan kemampuan untuk mengambil tugas yang sangat kompleks, menyelesaikannya, dan menyelesaikannya dengan cara yang sangat efisien,” lanjutnya. Kasus penggunaan potensial dapat mencakup pertemuan dan ringkasan dokumen atau penyusunan email untuk konsumen, dan pembuatan kode komputer atau musik berbasis cepat untuk aplikasi perusahaan, kata Malladi.
Atau Anda bisa menggunakannya untuk mengambil gambar yang cantik. Qualcomm mengintegrasikan pekerjaan sebelumnya dengan edge AI, Cognitive ISP. Perangkat yang menggunakan chipset ini akan mampu mengedit foto secara real-time dan sebanyak 12 lapisan. Mereka juga dapat menangkap gambar yang lebih jelas dalam cahaya redup, menghapus objek yang tidak diinginkan dari foto (ala Penghapus Ajaib Google) atau memperluas latar belakang gambar. Pemindaian pengguna bahkan memberi tanda air pada hasil jepretan mereka sebagai nyata dan bukan hasil AI, menggunakan pengambilan foto Truepic.
Memiliki AI yang terutama ada di ponsel atau perangkat seluler Anda, bukan di cloud, akan menawarkan banyak manfaat kepada pengguna dibandingkan sistem saat ini. Sama seperti AI perusahaan yang mengambil model umum (misalnya GPT-4) dan menyesuaikannya menggunakan data internal perusahaan untuk memberikan jawaban yang lebih akurat dan sesuai topik, AI yang disimpan secara lokal “seiring waktu… secara bertahap dapat dipersonalisasi,” kata Malladi. “dalam artian… asisten menjadi lebih pintar dan lebih baik, berjalan di perangkat itu sendiri.”
Terlebih lagi, penundaan bawaan yang terjadi ketika model harus menanyakan cloud untuk pemrosesan atau informasi tidak ada ketika semua aset bersifat lokal. Dengan demikian, X Elite dan SD8 gen 3 tidak hanya mampu menjalankan Difusi Stabil pada perangkat tetapi juga menghasilkan gambar dalam waktu kurang dari 0,6 detik.
Kapasitas untuk menjalankan model yang lebih besar dan lebih mumpuni, dan berinteraksi dengan model tersebut menggunakan kata-kata yang kita ucapkan dibandingkan mengetik, pada akhirnya dapat membuktikan keuntungan terbesar bagi konsumen. “Ada cara yang sangat unik di mana kami mulai menghubungkan perangkat dan suara menjadi antarmuka yang jauh lebih alami terhadap perangkat ini – dan juga hal lainnya,” kata Malladi. “Kami percaya bahwa ini berpotensi menjadi momen transformatif, di mana kami mulai berinteraksi dengan perangkat dengan cara yang sangat berbeda dibandingkan dengan apa yang telah kami lakukan sebelumnya.”
Perangkat seluler dan PC hanyalah permulaan dari rencana AI pada perangkat Qualcomm. Batasan 10-13 miliar parameter sudah bergerak menuju 20 miliar lebih parameter seiring perusahaan mengembangkan iterasi chip baru. “Ini adalah model yang sangat canggih,” komentar Malladi. “Kasus penggunaan yang Anda buat berdasarkan ini cukup mengesankan.”
“Ketika Anda mulai memikirkan ADAS (Sistem Bantuan Pengemudi Tingkat Lanjut) dan Anda memiliki multi-modalitas [data] datang dari beberapa kamera, sensor IR, radar, lidar — selain suara, yaitu manusia yang ada di dalam kendaraan itu sendiri,” lanjutnya. “Ukuran model tersebut cukup besar, kita sudah membicarakan sekitar 30 hingga 60 miliar parameter.” Pada akhirnya, model pada perangkat ini bisa mendekati 100 miliar parameter atau lebih, menurut perkiraan Qualcomm.
Artikel ini pertama kali muncul di Engadget di https://www.engadget.com/qualcomm-brings-on-device-ai-to-mobile-and-pc-190030938.html?src=rss
