MediaTek bermitra dengan Alibaba Cloud untuk chip seluler model besar

Sumber:www.ichunt.com

Menurut Sci-Tech Innovation Board Daily, MediaTek, produsen chip ponsel cerdas, telah berhasil menerapkan model besar dengan 1,8 miliar dan 4 miliar parameter pada chip andalannya seperti Dimensity 9300, mencapai adaptasi mendalam dari model besar pada chip seluler dan memungkinkan Tongyi Qianwen menjalankan beberapa putaran dialog AI bahkan dalam situasi offline. Ke depannya, kedua pihak juga akan mengadaptasi model yang lebih besar dengan ukuran berbeda, termasuk model dengan 7 miliar parameter, berdasarkan chip Dimensity.

Alibaba Cloud menyatakan akan bekerja sama dengan MediaTek untuk menyediakan solusi model besar sisi akhir kepada produsen ponsel global.

Saat ini, MediaTek menjadi perusahaan semikonduktor dengan volume pengiriman chip ponsel pintar tertinggi secara global. Menurut data terbaru Canalys, mereka mengirimkan lebih dari 117 juta unit pada kuartal keempat tahun 2023, menduduki peringkat pertama, diikuti oleh Apple dengan 78 juta pengiriman dan Qualcomm dengan 69 juta pengiriman. Tongyi Qianwen adalah model besar mendasar yang dikembangkan oleh Alibaba Cloud. Sejauh ini, mereka telah meluncurkan versi dengan hingga 100 miliar parameter dan versi sumber terbuka dengan 72 miliar, 14 miliar, 7 miliar, 4 miliar, 1,8 miliar, dan 500 juta parameter, serta model besar multimodal seperti model pemahaman visual Qwen-VL dan model audio besar Qwen-Audio.

Selama MWC2024, MediaTek memamerkan berbagai aplikasi kecerdasan buatan, termasuk chip Dimensity 9300 dan 8300. Diketahui bahwa chip Dimensity 9300 telah mendukung penerapan model besar 7 miliar parameter Meta Llama 2 di luar negeri, dan telah diterapkan pada ponsel seri vivo X100 di Tiongkok dengan model bahasa besar 7 miliar parameter di pasar. sisi akhir, dan juga telah berhasil menjalankan model 13 miliar parameter di lingkungan eksperimental sisi akhir.

Kolaborasi antara MediaTek dan Alibaba Cloud menandai pertama kalinya model besar Tongyi mencapai adaptasi perangkat keras dan perangkat lunak tingkat chip. Xu Dong, kepala bisnis Tongyi Lab Alibaba, menjelaskan, "AI sisi akhir (end-side AI) adalah salah satu skenario penting untuk penerapan model-model besar, namun ia menghadapi banyak tantangan seperti kesulitan dalam adaptasi perangkat keras dan perangkat lunak serta lingkungan pengembangan yang tidak lengkap. Alibaba Cloud dan MediaTek telah mengatasi serangkaian tantangan teknis dan rekayasa terkait adaptasi mendasar dan pengembangan tingkat atas, benar-benar mengintegrasikan model besar ke dalam chip seluler dan mengeksplorasi model penerapan Model-on-Chip baru untuk AI sisi akhir."

Selain MediaTek, Qualcomm juga aktif mempromosikan penerapan model besar di perangkat seluler. Pada tanggal 18 Maret, Qualcomm mengumumkan peluncuran platform seluler Snapdragon 8 generasi ketiga, yang mendukung model bahasa besar dengan hingga 10 miliar parameter dan juga dapat mendukung model AI generatif multi-modal, termasuk Baichuan-7B, Gemini Nano, Llama 2 , dan Zhipu ChatGLM dari perusahaan seperti Baidu Xiriver, Google, dan META. Kabarnya Xiaomi Civi 4 Pro akan menjadi yang pertama dibekali platform mobile Snapdragon 8s.

Seorang analis industri elektronik konsumen menyatakan bahwa kolaborasi antara Alibaba Cloud dan MediaTek berarti produsen ponsel dalam negeri kini memiliki alternatif selain Baidu.

Berdasarkan pemahaman reporter, Honor dan Samsung sebelumnya telah mengumumkan kolaborasi dengan Baidu Wenxin Yiyan. Misalnya, ponsel andalan terbaru Samsung, seri Galaxy S24, mengintegrasikan berbagai kemampuan model besar Wenxin, termasuk panggilan, terjemahan, dan ringkasan cerdas. Selain itu, sebuah sumber mengungkapkan bahwa Apple saat ini sedang menjalin kontak dengan Baidu, berharap dapat menggunakan teknologi kecerdasan buatan Baidu, dan pembicaraan awal telah dilakukan antara kedua pihak.

Lin Dahua, ilmuwan terkemuka di Laboratorium Kecerdasan Buatan Shanghai, menyatakan bahwa dengan pertumbuhan eksponensial model besar berbasis cloud, dunia akhir akan memasuki periode pertumbuhan emas. Kolaborasi cloud-end akan menjadi tren penting di masa depan, dengan komputasi sisi cloud menjadi yang tertinggi dan komputasi sisi akhir mendukung adopsi pengguna dalam skala besar.

Menurut prediksi perusahaan konsultan IDC, volume pengiriman ponsel pintar di pasar Tiongkok akan mencapai 277 juta unit pada tahun 2024, dengan tingkat pertumbuhan tahun-ke-tahun sebesar 2,3%. Diantaranya, volume pengiriman ponsel AI akan mencapai 36,6 juta, dengan tingkat pertumbuhan tahun-ke-tahun melebihi tiga digit. Penerapan model AI besar pada ponsel akan semakin meluas.