
Phòng thí nghiệm Yandex Research (Nga), hợp tác với các nhà khoa học từ Viện Công nghệ Massachusetts (MIT, Mỹ), Viện Khoa học và Công nghệ Áo (ISTA) và Đại học Khoa học và Công nghệ Johannes Gutenberg (Đức), vừa công bố một phương pháp mới trong việc phát triển mô hình AI.
ườiNgatạoramôhìnhAIthúvịkhôngkéHIGGS yêu cầu sức mạnh hoạt động không quá mạnh mẽ
ườiNgatạoramôhìnhAIthúvịkhôngkéẢNH: REUTERS
ườiNgatạoramôhìnhAIthúvịkhôngkéCó tên gọi Hadamard Incoherence với Gaussian MSE-optimal GridS (HIGGS), phương pháp mới cho phép nén mạng nơ-ron mà không cần dữ liệu bổ sung hay tối ưu hóa tham số phức tạp. Điều này đặc biệt hữu ích trong các tình huống thiếu dữ liệu phù hợp để đào tạo thêm cho mô hình AI. HIGGS mang lại sự cân bằng giữa chất lượng, quy mô mô hình và độ phức tạp trong quá trình lượng tử hóa, giúp các mô hình AI có thể hoạt động trên nhiều thiết bị khác nhau.
ườiNgatạoramôhìnhAIthúvịkhôngkéVới HIGGS, quá trình thử nghiệm và triển khai các giải pháp AI trở nên nhanh chóng và tiết kiệm chi phí hơn. Giờ đây, người dùng chỉ cần một chiếc smartphone hoặc laptop để làm việc với các mô hình AI, thay vì phải sử dụng máy chủ và bộ tăng tốc đồ họa đắt tiền. Trước đây, việc lượng tử hóa mô hình AI trên các thiết bị cá nhân có thể mất từ vài giờ đến vài tuần, nhưng quá trình này giờ đây chỉ mất vài phút.
ườiNgatạoramôhìnhAIthúvịkhôngkéAI bùng nổ đã tác động đến khối ngành kỹ thuật ra sao
ườiNgatạoramôhìnhAIthúvịkhôngkéPhương pháp HIGGS đã được thử nghiệm trên các mô hình AI phổ biến như Llama 3 và Qwen 2.5, với kết quả cho thấy đây là phương pháp lượng tử hóa hiệu quả nhất về tỷ lệ chất lượng trên kích thước mô hình so với các phương pháp tương tự không cần dữ liệu hiện có.
ườiNgatạoramôhìnhAIthúvịkhôngkéHiện tại, HIGGS đã có sẵn cho các nhà phát triển và nhà nghiên cứu trên nền tảng Hugging Face và GitHub. Một bài báo khoa học chi tiết về phương pháp này đã được đăng trên arXiv và được chấp nhận trình bày tại hội nghị AI lớn nhất thế giới NAACL diễn ra từ ngày 29.4 đến 4.5 tại Albuquerque, New Mexico (Mỹ). Bài viết này đã thu hút sự chú ý từ nhiều tổ chức, bao gồm Red Hat AI, Đại học Bắc Kinh và Đại học Khoa học và Công nghệ Hồng Kông.
ườiNgatạoramôhìnhAIthúvịkhôngké抖音特效怎么弄 18183手机游戏网
知识
综合
/大陆
正片
联运年会盛大举行,让我们“盘一盘”那些可爱的人儿!
娱乐
时尚
/大陆
正片
上尉密令EC代码是什么
热点
百科
/大陆
正片
全面憨憨战争模拟器首测问题有什么 首测问题答案一览
娱乐
焦点
/大陆
正片
《怪物猎人:荒野》日区首月实体销量77万 推动PS5销量创纪录
百科
综合
/大陆
正片
智能垃圾分类新模式实现试点社区全覆盖
休闲
综合
/大陆
正片
官方:萨内加盟加拉塔萨雷 签约3年披10号年薪900万欧
热点
综合
/大陆
正片
Launch Comms: Join Operation Deadbolt: This is the Modern Warfare Zombies Content Overview
探索
娱乐
/大陆
正片
删除文件或文件夹出错怎么办?
时尚
焦点
/大陆
正片
大学毕业生登记表自我鉴定(范文28篇)
知识
综合
/大陆
正片
董宇辉成东方甄选高级合伙人 董宇辉抖音账号粉丝突破2000万
热点
综合
/大陆
正片
三国:我开局灭了新手村
百科
休闲
/大陆
正片