IBM Luncurkan Granite 3.2 untuk Efisiensi Teknologi AI dan Praktis untuk Bisnis

Jakarta, Gizmologi – IBM telah merilis generasi terbaru dari keluarga Large Language Model (LLM) mereka, Granite 3.2. Model ini dikembangkan untuk memberikan keseimbangan optimal antara kinerja tinggi, efektivitas biaya, dan skalabilitas. Dengan fitur-fitur inovatif, Granite 3.2 menawarkan solusi AI yang lebih kecil namun tetap bertenaga untuk berbagai kebutuhan bisnis.

Granite 3.2 tersedia di bawah lisensi Apache 2.0 di Hugging Face, serta di platform IBM watsonx.ai, Ollama, Replicate, dan LM Studio. Model ini juga akan segera hadir di RHEL AI 1.5, memungkinkan perusahaan dan komunitas open-source mengakses teknologi AI canggih dengan lebih mudah. Keunggulan utama Granite 3.2 terletak pada efisiensi komputasi dan peningkatan performa dalam berbagai tugas AI.

Salah satu fitur unggulan yang diperkenalkan adalah Visual Language Model (VLM), yang mampu memahami dokumen dengan akurasi tinggi. Selain itu, model ini juga membawa peningkatan dalam penalaran melalui fitur Chain of Thought serta opsi model yang lebih ramping untuk keamanan siber. Semua inovasi ini menjadikan Granite 3.2 sebagai langkah maju dalam evolusi AI yang lebih hemat sumber daya namun tetap kompetitif dalam hal kinerja.

Baca Juga: Pesatnya Adopsi GenAI Memicu Modernisasi Aplikasi dan Infrastruktur

Peningkatan Fitur dalam Granite 3.2

Granite 3.2 menghadirkan beberapa fitur baru yang meningkatkan kemampuannya dibandingkan pendahulunya. Salah satunya adalah Visual Language Model (VLM), yang dirancang untuk memahami dokumen dengan akurasi tinggi. Model ini mampu bersaing dengan model yang lebih besar seperti Llama 3.2 11B dan Pixtral 12B pada benchmark perusahaan seperti DocVQA, ChartQA, AI2D, dan OCRBench. Dengan memanfaatkan Docling Toolkit, IBM telah memproses 85 juta PDF untuk menghasilkan 26 juta pasangan pertanyaan-jawaban sintetis, meningkatkan kemampuan model dalam menangani dokumen kompleks.

Selain itu, fitur Chain of Thought dalam model 3.2 2B dan 8B memungkinkan peningkatan dalam penalaran yang dapat diaktifkan atau dinonaktifkan sesuai kebutuhan. Dengan metode inference scaling yang baru, model Granite 3.2 8B mampu menyaingi performa model yang jauh lebih besar seperti Claude 3.5 Sonnet atau GPT-4o dalam benchmark matematika seperti AIME2024 dan MATH500. Hal ini memungkinkan efisiensi komputasi yang lebih tinggi tanpa mengorbankan akurasi.

IBM juga menghadirkan opsi yang lebih ramping untuk model keamanan Granite Guardian. Dengan pengurangan ukuran sebesar 30% dari versi sebelumnya, model ini tetap mempertahankan kinerja yang optimal. Selain itu, fitur verbalized confidence memungkinkan model menilai risiko dengan memahami ambiguitas dalam pemantauan keamanan siber. Dengan semua fitur ini, Granite 3.2 menjadi solusi AI yang lebih fleksibel dan hemat sumber daya untuk berbagai kebutuhan bisnis.

Dampak Granite 3.2 bagi Industri

Granite 3.2 bukan hanya sekadar pembaruan teknis, tetapi juga merupakan strategi IBM dalam mendorong adopsi AI yang lebih efisien di dunia industri. Model ini telah digunakan oleh berbagai mitra IBM, termasuk perusahaan perangkat lunak terkemuka yang mengintegrasikan LLM ke dalam teknologi mereka. Misalnya, CrushBank telah memanfaatkan model AI IBM untuk menciptakan solusi yang lebih cerdas dan hemat biaya.

Selain itu, IBM juga memperkenalkan model TinyTimeMixers (TTM), yang memiliki parameter di bawah 10 juta. Model ini dirancang untuk melakukan forecasting jangka panjang hingga dua tahun ke depan, membantu industri seperti keuangan, rantai pasokan, dan perencanaan inventaris dalam mengantisipasi tren masa depan. Kemampuan ini memberikan keuntungan strategis bagi bisnis yang mengandalkan analisis data untuk pengambilan keputusan.

Menurut Sriram Raghavan, VP IBM AI Research, era AI berikutnya adalah tentang efisiensi, integrasi, dan dampak nyata bagi bisnis. IBM berkomitmen untuk menyediakan solusi AI terbuka yang hemat biaya, mudah diakses, dan dapat memberikan nilai tambah bagi perusahaan modern. Dengan Granite 3.2, IBM mengambil langkah maju dalam menjadikan AI lebih praktis dan bermanfaat bagi dunia usaha.

Artikel berjudul IBM Luncurkan Granite 3.2 untuk Efisiensi Teknologi AI dan Praktis untuk Bisnis yang ditulis oleh Christopher Louis pertama kali tampil di Gizmologi.id