বড় ভাষা মডেল সরাসরি ভোক্তা ডিভাইসে চালানোর জন্য ছুটছে স্টার্টআপগুলো, তারা প্রতিশ্রুতি দিচ্ছে কম লেটেন্সি ও বেশি গোপনীয়তার। গত প্রান্তিকে এই খাতে রেকর্ড ৪২০ কোটি ডলার বিনিয়োগ এসেছে, কারণ চিপ নির্মাতারা ৭ বিলিয়ন প্যারামিটারের মডেল অফলাইনে চালাতে সক্ষম নতুন নিউরাল প্রসেসর উন্মোচন করেছে।