Replicate

Replicate はオープンソースのモデルをそのまま API に変えてくれる開発者向けのプラットフォームで、Flux、SDXL、Whisper など多数のモデルを数行のコードで呼び出せます。実行秒数に応じた課金で自動スケールするため、使っていない分の計算資源を抱えずに済み、Cog を使えば自分だけのモデルのデプロイもできます。

人気モデルは混雑時に並び、費用は使っただけ膨らむので監視が必要で、コールドスタートの遅延も出ます。無料で使える試用枠があり、以降は従量課金です。製品の中にオープンなモデルの機能を組み込む目的では、開発者体験が水準をリードする存在で、学習から運用まで自ら持つ必要がありません。一方で、モデルのラインナップと運用を完全に握りたい場合は、自前でホストする構成を選ぶ余地も残ります。