Artikel ini adalah bagian dari Laporan Teknologi Bain tahun 2024.
Perusahaan-perusahaan bergerak melampaui fase eksperimen bukti konsep dan produk minimum yang layak, dan mulai meningkatkan AI generatif di seluruh organisasi. Saat melakukannya, CIO perlu memiliki, mengembangkan, dan memelihara solusi AI tingkat produksi sambil menyediakannya secara efisien dalam skala besar. Pada saat yang sama, mereka perlu meningkatkan produktivitas fungsi mereka sendiri dengan alat AI generatif yang mereka terapkan ke seluruh organisasi.
Hal ini pada dasarnya akan membentuk kembali fungsi teknologi di seluruh arsitektur, model operasi, bakat, dan pendekatan pendanaan, dalam beberapa cara penting:
- merancang ulang seluruh tumpukan teknologi dengan pendekatan “AI di mana-mana”, mengintegrasikan pembelajaran mesin (ML) dan AI generatif;
- perbaikan cara kerja untuk menggabungkan pengembangan solusi AI di seluruh manajemen produk, pengembangan perangkat lunak, operasi, dan proses dukungan;
- peningkatan keterampilan tim teknik untuk mengintegrasikan, menguji, dan meningkatkan skala sistem AI ke tingkat produksi, sekaligus menggunakan peralatan AI untuk meningkatkan produktivitas rekayasa;
- mendefinisikan ulang campuran pengeluaran teknologi untuk mendukung investasi AI dan biaya operasional infrastruktur, memanfaatkan efisiensi AI di berbagai bidang seperti pengembangan perangkat lunak dan manajemen layanan; dan
- meninjau manajemen risiko dan tata kelola untuk berhasil menyebarkan dan meningkatkan model AI.
Walaupun kelima proses ini akan membentuk kembali fungsi teknologi, dua proses pertama—arsitektur dengan AI di mana-mana dan peningkatan cara kerja—merupakan fondasi penting yang harus dilakukan dengan benar terlebih dahulu.
Arsitektur dengan AI di mana-mana
AI generatif akan memengaruhi sistem di seluruh perusahaan.
- Sistem operasional dengan data tidak terstruktur yang signifikan akan menghadapi perancangan ulang yang substansial karena kemampuan AI generatif untuk memanfaatkan sumber data yang sebelumnya kurang dimanfaatkan. Dalam pengalaman kami, pola solusi yang paling umum untuk kasus penggunaan AI generatif dalam sistem operasional berada dalam area pembuatan konten, manajemen pengetahuan, serta pelaporan dan dokumentasi (lihat Gambar 1). CIO dan pembeli teknologi lainnya perlu memutuskan antara membangun atau membeli solusi AI generatif untuk penggunaan ini, berdasarkan potensi keunggulan kompetitif dan biaya serta kemampuan yang dibutuhkan. Saat ini, banyak perusahaan yang membangun atau menyesuaikan solusi yang mereka butuhkan menggunakan model dasar karena solusi komersial yang diperlukan belum siap. Pembelian mungkin menjadi lebih praktis dan populer karena solusi perangkat lunak sebagai layanan (SaaS) yang ada menggabungkan AI generatif.
- Sistem integrasi, alur kerja, dan orkestrasi perlu bekerja dengan lancar dengan model AI untuk memungkinkan alur kerja otomatisasi yang lebih kompleks. Selain itu, AI generatif mempercepat kebutuhan untuk memodernisasi arsitektur perusahaan, seperti mengadopsi integrasi berbasis API dan infrastruktur berbasis cloud, untuk menerapkan solusi AI generatif secara lebih efektif. Seiring berjalannya waktu, sistem alur kerja dan orkestrasi dapat didukung atau digantikan oleh AI agen yang dapat bertindak semi-otonom, seiring dengan matangnya kemampuan tersebut.
- Analisis data dan sistem ML perlu mencakup lebih banyak aset data tak terstruktur, serta platform AI sebagai layanan (AIaaS) dan operasi pembelajaran mesin (MLOps) untuk penggunaan kembali komponen umum dan penerapan model baru yang efisien. Kemampuan platform data perlu diperkuat untuk menggabungkan lebih banyak set data tak terstruktur (dan memperlakukannya dengan disiplin yang sama seperti yang terstruktur), katalog data bersama, pembuatan versi data, dan silsilah data yang didukung oleh tim produk data. Untuk memungkinkan penggunaan model yang disetujui dan komponen umum (misalnya, pengindeksan vektor atau pengambilan generasi tambahan) di seluruh kasus penggunaan, platform AIaaS terintegrasi, bukan solusi titik, perlu dibuat untuk setiap kasus penggunaan.
Cara kerja yang ditingkatkan
Seiring dengan semakin banyaknya kasus penggunaan model AI generatif yang diterapkan di seluruh sistem penting dan meningkatnya kompleksitas (misalnya, kasus penggunaan AI yang dirangkai secara berantai), hal ini akan semakin menuntut kolaborasi, kontrol kualitas, keandalan, dan skalabilitas. Model AI perlu diperlakukan dengan disiplin yang sama seperti kode perangkat lunak dengan mengadopsi proses MLOps yang menggunakan DevOps untuk mengelola model melalui siklus hidupnya.
Perusahaan harus menyiapkan model pengembangan AI terfederasi yang sejalan dengan platform AIaaS. Model ini harus mendefinisikan peran tim yang memproduksi dan menggunakan layanan AI, serta proses kontribusi terfederasi dan cara berbagi kumpulan data dan model.
Mengingat laju evolusi AI generatif, penting juga untuk menciptakan proses pengembangan perangkat lunak yang mengutamakan AI yang memungkinkan iterasi cepat solusi dan arsitektur baru. Tim Agile perlu memperhitungkan ketergantungan antara aplikasi, model AI, dan tim data.
Proses pengembangan perangkat lunak dan manajemen layanan juga harus mengadopsi perangkat AI generatif, termasuk asisten pengkodean, manajemen pengetahuan, dan deteksi kesalahan. Diperlukan pedoman yang jelas tentang cara menggunakan perangkat ini, memantau dampaknya secara berkala, dan mengelola risiko.
Banyak dari pilihan ini perlu dibuat dalam lanskap teknologi AI generatif yang berkembang pesat, yang mengharuskan beberapa langkah tanpa penyesalan sekarang sambil mempertahankan fleksibilitas untuk beradaptasi. Akibatnya, topik ini akan menjadi prioritas bagi para CIO, yang menciptakan perubahan signifikan dalam fungsi tersebut, jauh melampaui apa yang telah kita lihat dalam beberapa tahun terakhir.
Baca Laporan Teknologi 2024 kami
Lebih lanjut dari laporan tersebut