Models

12 models shown. Amounts are per the unit stated in each row.
Model	Provider	Context	Prices
anyscale/HuggingFaceH4/zephyr-7b-beta	anyscale	16,384	Input $0.15 per 1M tokens low Output $0.15 per 1M tokens low
anyscale/codellama/CodeLlama-34b-Instruct-hf	anyscale	4,096	Input $1.00 per 1M tokens low Output $1.00 per 1M tokens low
anyscale/codellama/CodeLlama-70b-Instruct-hf	anyscale	4,096	Input $1.00 per 1M tokens low Output $1.00 per 1M tokens low
anyscale/google/gemma-7b-it	anyscale	8,192	Input $0.15 per 1M tokens low Output $0.15 per 1M tokens low
anyscale/meta-llama/Llama-2-13b-chat-hf	anyscale	4,096	Input $0.25 per 1M tokens low Output $0.25 per 1M tokens low
anyscale/meta-llama/Llama-2-70b-chat-hf	anyscale	4,096	Input $1.00 per 1M tokens low Output $1.00 per 1M tokens low
anyscale/meta-llama/Llama-2-7b-chat-hf	anyscale	4,096	Input $0.15 per 1M tokens low Output $0.15 per 1M tokens low
anyscale/meta-llama/Meta-Llama-3-70B-Instruct	anyscale	8,192	Input $1.00 per 1M tokens low Output $1.00 per 1M tokens low
anyscale/meta-llama/Meta-Llama-3-8B-Instruct	anyscale	8,192	Input $0.15 per 1M tokens low Output $0.15 per 1M tokens low
anyscale/mistralai/Mistral-7B-Instruct-v0.1	anyscale	16,384	Input $0.15 per 1M tokens low Output $0.15 per 1M tokens low
anyscale/mistralai/Mixtral-8x22B-Instruct-v0.1	anyscale	65,536	Input $0.90 per 1M tokens low Output $0.90 per 1M tokens low
anyscale/mistralai/Mixtral-8x7B-Instruct-v0.1	anyscale	16,384	Input $0.15 per 1M tokens low Output $0.15 per 1M tokens low