Berupaya untuk menghadirkan beban kerja AI dan pembelajaran mesin ke perangkat keras berbasis Arm, Arm mengintegrasikan Suka banget sama gaunnya Teknologi akselerasi AI dengan PyTorch dan Obor Pelaksanaruntime inferensi pada perangkat baru dari PyTorch.
Pengaturan tersebut diumumkan 16 Sept.dimaksudkan untuk memperluas manfaat kinerja AI dari edge ke cloud. Dengan dukungan untuk PyTorch dan ExecuTorch, aplikasi generasi berikutnya dapat menjalankan model bahasa besar (LLM) pada CPU Arm. Arm telah bermitra dengan PyTorch dan TensorFlow untuk mengintegrasikan pustaka Arm Kleidi langsung ke dalam kerangka kerja ini. aku salahperpustakaan untuk pengembang kerangka kerja AI/ML, juga dijadwalkan untuk diintegrasikan ke dalam ExecuTorch pada bulan Oktober 2024.
Sejak peluncurannya empat bulan lalu, Kleidi telah mempercepat pengembangan dan membuka peningkatan performa AI utama pada CPU Arm, kata Alex Spinelli, wakil presiden teknologi pengembang di Arm. Di cloud, Kleidi mengembangkan karya yang sudah ada dengan menyempurnakan PyTorch dengan Arm Compute Libraries (ACL) dan menawarkan cetak biru untuk mengoptimalkan AI di Arm. Dengan Kleidi, aplikasi dapat memperoleh manfaat dari peningkatan performa saat versi kerangka kerja baru dirilis, tetapi tanpa mengambil langkah ekstra untuk membangun di Arm saat ini.