面向开发者的 Model Marketplace 重新洗牌：GitHub Models 申请加入战斗

GitHub 现已推出开放模型对接服务！目前市场上热门的 Cohere、Llama 和 GPT 模型均已上架 GitHub 模型市场。然而，目前仍需加入候补名单，排队申请试用权限。快来抢先加入候补名单，优先体验这些前沿技术吧！

申请一个 GitHub 的 Token。

可以通过这个 Token 直接发起请求使用模型。

export GITHUB_TOKEN="<your-github-token-goes-here>"

curl -X POST "https://models.inference.ai.azure.com/chat/completions" \
    -H "Content-Type: application/json" \
    -H "Authorization: Bearer $GITHUB_TOKEN" \
    -d '{
        "messages": [
            {
                "role": "system",
                "content": "You are a helpful assistant."
            },
            {
                "role": "user",
                "content": "Give me 5 good reasons why I should exercise every day."
            }
        ],
        "stream": true,
        "model": "meta-llama-3.1-405b-instruct"
    }'

因为还没排队成功，所以可以看到目前就算是有 GitHub Token，访问接口也还是没有权限的。