Fundamentals of ML and AI
AWS Infrastructure and Technologies
AWS mengelompokkan layanan AI dan ML ke dalam tiga layer, dari yang paling fleksibel sampai yang paling siap pakai.
AWS AI/ML stack
ML frameworks layer
- Amazon SageMaker AI (nama baru Amazon SageMaker) adalah layanan fully managed untuk membangun, melatih, dan men-deploy model ML sendiri.
AI/ML services layer (pre-trained, tidak perlu keahlian ML)
| Layanan | Dipakai untuk |
|---|---|
| Amazon Comprehend | NLP pada teks: deteksi bahasa, ekstraksi key phrase dan entity, sentiment analysis, pengelompokan dokumen per topik |
| Amazon Translate | Menerjemahkan teks dengan neural machine translation |
| Amazon Textract | Mengekstrak teks, form field, dan tabel dari dokumen hasil scan (lebih dari sekadar OCR) |
| Amazon Lex | Membuat chatbot dan voice bot (IVR) dengan speech recognition dan natural language understanding, teknologi di balik Alexa |
| Amazon Polly | Mengubah teks menjadi suara yang natural |
| Amazon Transcribe | Mengubah suara menjadi teks, batch atau real time, dengan timestamp per kata |
| Amazon Rekognition | Menganalisis gambar dan video: objek, orang, teks, adegan, wajah, dan konten tidak pantas |
| Amazon Kendra | Enterprise search cerdas di banyak repositori konten |
| Amazon Personalize | Rekomendasi personal real time dari aktivitas pengguna |
| AWS DeepRacer | Belajar reinforcement learning dengan mobil balap otonom skala 1/18 |
Generative AI layer
- Amazon SageMaker JumpStart: solusi siap pakai serta deploy dan fine-tuning model open-source populer dengan satu klik.
- Amazon Bedrock: layanan fully managed dan serverless untuk memakai FM dari Amazon dan perusahaan AI terkemuka lewat satu API, dan mengustomisasinya secara privat dengan data sendiri.
- PartyRock: playground Amazon Bedrock untuk bereksperimen membuat aplikasi generative AI.
- Amazon Q: asisten generative AI untuk pekerjaan yang memakai data perusahaan.
- Amazon Q Developer: membuat kode dan rekomendasi kode di dalam IDE.
Kenapa membangun AI di AWS
- Development lebih cepat: layanan managed mengurus infrastruktur, training, dan deployment.
- Skalabilitas dan biaya: harga pay-as-you-go dan infrastruktur global.
- Pilihan model: banyak FM lewat satu API di Amazon Bedrock.
- Integrasi: layanan AI terhubung dengan layanan AWS lain lewat SDK dan API.
- Keamanan dan compliance: shared responsibility model dan program compliance.
Trade-off biaya
- Responsiveness and availability: latensi lebih rendah dan deployment multi-Region lebih mahal.
- Redundancy and Regional coverage: beberapa Availability Zone atau Region menambah biaya.
- Performance: GPU dan accelerator lebih mahal daripada CPU tetapi bisa jauh lebih cepat.
- Token-based pricing: Amazon Bedrock dan Amazon Q Developer menagih per token yang diproses atau dihasilkan.
- Provisioned throughput: bayar kapasitas di muka memang lebih mahal, tapi performanya bisa diprediksi.
- Custom models: training dan fine-tuning menambah biaya compute dan data.