Luis-Filipe commited on
Commit
8dcdc45
·
verified ·
1 Parent(s): b728cb8

Upload opencode-ollama-sync.ps1

Browse files
Files changed (1) hide show
  1. commandos/opencode-ollama-sync.ps1 +202 -0
commandos/opencode-ollama-sync.ps1 ADDED
@@ -0,0 +1,202 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ <#
2
+ .SYNOPSIS
3
+ Sincroniza automaticamente os modelos instalados no Ollama com a configuração do OpenCode (opencode.json).
4
+
5
+ .DESCRIPTION
6
+ Corre `ollama list` para descobrir os modelos instalados, consulta `ollama show <modelo>`
7
+ para obter o "context length" de cada um, e gera/atualiza o bloco provider.ollama no
8
+ opencode.json (global por omissão). Faz sempre backup do ficheiro existente antes de escrever.
9
+
10
+ IMPORTANTE: o endpoint /v1 do Ollama (usado pelo OpenCode) não aceita num_ctx no pedido.
11
+ Definir "limit.context" no opencode.json só diz ao OpenCode qual é o limite — não muda
12
+ o contexto real que o Ollama está a usar para servir o modelo. Para isso valer a pena,
13
+ usa o parâmetro -CreateVariants, que cria uma variante de cada modelo com num_ctx fixado
14
+ ao valor detetado (via `ollama create`) e regista essa variante no opencode.json.
15
+
16
+ .PARAMETER ConfigPath
17
+ Caminho para o opencode.json a atualizar. Por omissão usa o ficheiro global do utilizador.
18
+
19
+ .PARAMETER OutputRatio
20
+ Fração do contexto a usar como limite de output quando não há valor melhor a detetar. Default 0.5.
21
+
22
+ .PARAMETER MaxOutputCap
23
+ Teto absoluto para o limite de output, independentemente do OutputRatio. Default 65536.
24
+
25
+ .PARAMETER CreateVariants
26
+ Se presente, cria (via `ollama create`) uma variante de cada modelo com num_ctx explicitamente
27
+ definido igual ao context length detetado, e usa essa variante no opencode.json em vez do
28
+ modelo original. Sem esta flag, o script só reporta o limite ao OpenCode; não altera o Ollama.
29
+
30
+ .PARAMETER BaseURL
31
+ Endpoint do Ollama. Default http://localhost:11434/v1.
32
+
33
+ .EXAMPLE
34
+ .\opencode-ollama-sync.ps1
35
+ Atualiza o opencode.json com os modelos atuais, sem tocar no Ollama.
36
+
37
+ .EXAMPLE
38
+ .\opencode-ollama-sync.ps1 -CreateVariants
39
+ Cria variantes com contexto máximo fixado e regista-as no opencode.json.
40
+
41
+ .NOTES
42
+ Requer PowerShell 7+ (usa ConvertFrom-Json -AsHashtable). Em Windows PowerShell 5.1
43
+ instala o PowerShell 7 (winget install Microsoft.PowerShell) e corre com `pwsh`.
44
+ #>
45
+
46
+ [CmdletBinding()]
47
+ param(
48
+ [string]$ConfigPath = "$env:USERPROFILE\.config\opencode\opencode.json",
49
+ [double]$OutputRatio = 0.5,
50
+ [int]$MaxOutputCap = 65536,
51
+ [switch]$CreateVariants,
52
+ [string]$BaseURL = "http://localhost:11434/v1"
53
+ )
54
+
55
+ $ErrorActionPreference = "Stop"
56
+
57
+ if ($PSVersionTable.PSVersion.Major -lt 7) {
58
+ Write-Warning "Estás a correr Windows PowerShell $($PSVersionTable.PSVersion). Este script precisa do PowerShell 7+ (usa 'pwsh'). A tentar continuar, mas pode falhar no parsing de JSON."
59
+ }
60
+
61
+ function Test-OllamaAvailable {
62
+ try {
63
+ $null = Get-Command ollama -ErrorAction Stop
64
+ } catch {
65
+ throw "Não encontrei o comando 'ollama' no PATH. Confirma que o Ollama está instalado e a correr."
66
+ }
67
+ }
68
+
69
+ function Get-OllamaModels {
70
+ $raw = ollama list
71
+ if (-not $raw) { throw "'ollama list' não devolveu nada. O serviço Ollama está ativo?" }
72
+
73
+ $lines = $raw -split "`r?`n" | Select-Object -Skip 1 | Where-Object { $_.Trim() -ne "" }
74
+ $models = @()
75
+ foreach ($line in $lines) {
76
+ $name = ($line -split '\s{2,}')[0].Trim()
77
+ if ($name) { $models += $name }
78
+ }
79
+ return $models
80
+ }
81
+
82
+ function Get-OllamaContextLength {
83
+ param([string]$ModelName)
84
+ try {
85
+ $show = ollama show $ModelName 2>$null
86
+ } catch {
87
+ return $null
88
+ }
89
+ $match = $show | Select-String -Pattern 'context length\s+(\d+)'
90
+ if ($match) {
91
+ return [int]$match.Matches[0].Groups[1].Value
92
+ }
93
+ return $null
94
+ }
95
+
96
+ Test-OllamaAvailable
97
+ Write-Host "A ler modelos instalados no Ollama..." -ForegroundColor Cyan
98
+ $models = Get-OllamaModels
99
+
100
+ if ($models.Count -eq 0) {
101
+ Write-Warning "Não foram encontrados modelos no Ollama ('ollama list' vazio)."
102
+ return
103
+ }
104
+
105
+ Write-Host "Encontrados $($models.Count) modelo(s): $($models -join ', ')" -ForegroundColor Cyan
106
+
107
+ # --- Carregar config existente, se houver ---
108
+ $existingConfig = $null
109
+ if (Test-Path $ConfigPath) {
110
+ $backupPath = "$ConfigPath.bak-$(Get-Date -Format 'yyyyMMdd-HHmmss')"
111
+ Copy-Item $ConfigPath $backupPath
112
+ Write-Host "Backup do config existente guardado em: $backupPath" -ForegroundColor Yellow
113
+ try {
114
+ $existingConfig = Get-Content $ConfigPath -Raw | ConvertFrom-Json -AsHashtable
115
+ } catch {
116
+ Write-Warning "Não consegui parsear o opencode.json existente como JSON válido. Vou criar um novo."
117
+ $existingConfig = $null
118
+ }
119
+ }
120
+
121
+ if (-not $existingConfig) {
122
+ $existingConfig = [ordered]@{ '$schema' = "https://opencode.ai/config.json" }
123
+ }
124
+ if (-not $existingConfig.ContainsKey('provider')) {
125
+ $existingConfig['provider'] = @{}
126
+ }
127
+
128
+ # --- Construir bloco de modelos ---
129
+ $modelsBlock = @{}
130
+
131
+ foreach ($model in $models) {
132
+ $ctx = Get-OllamaContextLength -ModelName $model
133
+ if (-not $ctx) {
134
+ Write-Warning "Não consegui detetar o context length de '$model'; a usar 8192 por omissão."
135
+ $ctx = 8192
136
+ }
137
+
138
+ $targetName = $model
139
+
140
+ if ($CreateVariants) {
141
+ $safeName = ($model -replace '[:/]', '-')
142
+ $variantName = "$safeName-maxctx"
143
+ Write-Host "A criar variante '$variantName' com num_ctx=$ctx..." -ForegroundColor Cyan
144
+
145
+ $modelfileContent = "FROM $model`nPARAMETER num_ctx $ctx`n"
146
+ $tempModelfile = New-TemporaryFile
147
+ Set-Content -Path $tempModelfile -Value $modelfileContent -NoNewline
148
+
149
+ try {
150
+ ollama create $variantName -f $tempModelfile.FullName | Out-Null
151
+ $targetName = $variantName
152
+ } catch {
153
+ Write-Warning "Falha ao criar variante para '$model': $_. A usar o modelo original sem contexto fixado."
154
+ } finally {
155
+ Remove-Item $tempModelfile -ErrorAction SilentlyContinue
156
+ }
157
+ }
158
+
159
+ $outputLimit = [Math]::Min([int]($ctx * $OutputRatio), $MaxOutputCap)
160
+
161
+ $modelsBlock[$targetName] = @{
162
+ name = $targetName
163
+ limit = @{
164
+ context = $ctx
165
+ output = $outputLimit
166
+ }
167
+ }
168
+ }
169
+
170
+ $existingConfig['provider']['ollama'] = @{
171
+ npm = "@ai-sdk/openai-compatible"
172
+ name = "Ollama (local)"
173
+ options = @{ baseURL = $BaseURL }
174
+ models = $modelsBlock
175
+ }
176
+
177
+ # Só define modelo por omissão se ainda não houver um definido no config
178
+ if (-not $existingConfig.ContainsKey('model') -and $modelsBlock.Count -gt 0) {
179
+ $firstModel = ($modelsBlock.Keys | Select-Object -First 1)
180
+ $existingConfig['model'] = "ollama/$firstModel"
181
+ }
182
+
183
+ $configDir = Split-Path $ConfigPath -Parent
184
+ if (-not (Test-Path $configDir)) {
185
+ New-Item -ItemType Directory -Path $configDir -Force | Out-Null
186
+ }
187
+
188
+ $json = $existingConfig | ConvertTo-Json -Depth 10
189
+ Set-Content -Path $ConfigPath -Value $json -Encoding UTF8
190
+
191
+ Write-Host "`nopencode.json atualizado em: $ConfigPath" -ForegroundColor Green
192
+ Write-Host "Modelos configurados:" -ForegroundColor Green
193
+ foreach ($key in $modelsBlock.Keys) {
194
+ $m = $modelsBlock[$key]
195
+ Write-Host " - $key (context: $($m.limit.context), output: $($m.limit.output))"
196
+ }
197
+
198
+ if (-not $CreateVariants) {
199
+ Write-Host "`nNota: os limites acima foram só reportados ao OpenCode. O contexto REAL servido pelo" -ForegroundColor Yellow
200
+ Write-Host "Ollama continua o que estiver definido em cada modelo. Corre com -CreateVariants para" -ForegroundColor Yellow
201
+ Write-Host "criar variantes com num_ctx fixado ao valor detetado." -ForegroundColor Yellow
202
+ }