اپل برای ارتقاء چشمگیر عملکرد مدل‌های زبانی بزرگ (LLM) خود با انویدیا همکاری خواهد کرد. این این همکاری شامل به‌کارگیری تکنیک جدید تولید متن می‌شود که سرعت برنامه‌های هوش مصنوعی را به‌میزان چشمگیری افزایش می‌دهد.

اپل اوایل امسال رویکرد Recurrent Drafter (ReDrafter) را معرفی و به‌صورت متن‌باز منتشر کرد. این روش با ترکیب تکنیک‌های Beam Search و Dynamic Tree Attention، سرعت فرایند تولید متن را افزایش می‌دهد.

Beam Search چندین دنباله‌ی متنی ممکن را به‌صورت هم‌زمان بررسی می‌کند تا بهترین نتایج حاصل شود و Dynamic Tree Attention هم‌پوشانی‌های اضافی بین دنباله‌ها را سازمان‌دهی و حذف می‌کند تا کارایی بهبود یابد.

اپل اکنون فناوری ReDrafter را در فریم‌ورک TensorRT-LLM انویدیا ادغام کرده است. فناوری مذکور برای بهینه‌سازی اجرای مدل‌های زبانی بزرگ روی گرافیک‌های انویدیا طراحی شده است. به گفته‌ی اپل، این ادغام سرعت تولید توکن‌ها را تا ۲٫۷ برابر افزایش می‌دهد.

طبق اعلام اپل، پیشرفت در عملکرد هوش مصنوعی این شرکت، علاوه بر کاهش محسوس تأخیر برای کاربران، به کاهش فشار روی گرافیک و کاهش مصرف انرژی نیز کمک می‌کند.