Hugging Face's logo

CrashOverrideX
/
Quillan-Ronin

Text Generation
Transformers
Safetensors
GGUF
English
llama
causal-lm
multimodal
image-generation
video-generation
audio-generation
text-generation-inference
Model card Files
xet
Community
Quillan-Ronin
File size: 9,835 Bytes
41a5ab2
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
 
```mermaid

sequenceDiagram

    participant UI as 🧩 ChatForm / ChatMessage

    participant chatStore as 🗄️ chatStore

    participant convStore as 🗄️ conversationsStore

    participant settingsStore as 🗄️ settingsStore

    participant ChatSvc as ⚙️ ChatService

    participant DbSvc as ⚙️ DatabaseService

    participant API as 🌐 /v1/chat/completions



    Note over chatStore: State:<br/>isLoading, currentResponse<br/>errorDialogState, activeProcessingState<br/>chatLoadingStates (Map)<br/>chatStreamingStates (Map)<br/>abortControllers (Map)<br/>processingStates (Map)



    %% ═══════════════════════════════════════════════════════════════════════════

    Note over UI,API: 💬 SEND MESSAGE

    %% ═══════════════════════════════════════════════════════════════════════════



    UI->>chatStore: sendMessage(content, extras)

    activate chatStore



    chatStore->>chatStore: setChatLoading(convId, true)

    chatStore->>chatStore: clearChatStreaming(convId)



    alt no active conversation

        chatStore->>convStore: createConversation()

        Note over convStore: → see conversations-flow.mmd

    end



    chatStore->>chatStore: addMessage("user", content, extras)

    chatStore->>DbSvc: createMessageBranch(userMsg, parentId)

    chatStore->>convStore: addMessageToActive(userMsg)

    chatStore->>convStore: updateCurrentNode(userMsg.id)



    chatStore->>chatStore: createAssistantMessage(userMsg.id)

    chatStore->>DbSvc: createMessageBranch(assistantMsg, userMsg.id)

    chatStore->>convStore: addMessageToActive(assistantMsg)



    chatStore->>chatStore: streamChatCompletion(messages, assistantMsg)

    deactivate chatStore



    %% ═══════════════════════════════════════════════════════════════════════════

    Note over UI,API: 🌊 STREAMING

    %% ═══════════════════════════════════════════════════════════════════════════



    activate chatStore

    chatStore->>chatStore: startStreaming()

    Note right of chatStore: isStreamingActive = true



    chatStore->>chatStore: setActiveProcessingConversation(convId)

    chatStore->>chatStore: getOrCreateAbortController(convId)

    Note right of chatStore: abortControllers.set(convId, new AbortController())



    chatStore->>chatStore: getApiOptions()

    Note right of chatStore: Merge from settingsStore.config:<br/>temperature, max_tokens, top_p, etc.



    chatStore->>ChatSvc: sendMessage(messages, options, signal)

    activate ChatSvc



    ChatSvc->>ChatSvc: convertMessageToChatData(messages)

    Note right of ChatSvc: DatabaseMessage[] → ApiChatMessageData[]<br/>Process attachments (images, PDFs, audio)



    ChatSvc->>API: POST /v1/chat/completions

    Note right of API: {messages, model?, stream: true, ...params}



    loop SSE chunks

        API-->>ChatSvc: data: {"choices":[{"delta":{...}}]}

        ChatSvc->>ChatSvc: parseSSEChunk(line)



        alt content chunk

            ChatSvc-->>chatStore: onChunk(content)

            chatStore->>chatStore: setChatStreaming(convId, response, msgId)

            Note right of chatStore: currentResponse = $state(accumulated)

            chatStore->>convStore: updateMessageAtIndex(idx, {content})

        end



        alt reasoning chunk

            ChatSvc-->>chatStore: onReasoningChunk(reasoning)

            chatStore->>convStore: updateMessageAtIndex(idx, {thinking})

        end



        alt tool_calls chunk

            ChatSvc-->>chatStore: onToolCallChunk(toolCalls)

            chatStore->>convStore: updateMessageAtIndex(idx, {toolCalls})

        end



        alt model info

            ChatSvc-->>chatStore: onModel(modelName)

            chatStore->>chatStore: recordModel(modelName)

            chatStore->>DbSvc: updateMessage(msgId, {model})

        end



        alt timings (during stream)

            ChatSvc-->>chatStore: onTimings(timings, promptProgress)

            chatStore->>chatStore: updateProcessingStateFromTimings()

        end



        chatStore-->>UI: reactive $state update

    end



    API-->>ChatSvc: data: [DONE]

    ChatSvc-->>chatStore: onComplete(content, reasoning, timings, toolCalls)

    deactivate ChatSvc



    chatStore->>chatStore: stopStreaming()

    chatStore->>DbSvc: updateMessage(msgId, {content, timings, model})

    chatStore->>convStore: updateCurrentNode(msgId)

    chatStore->>chatStore: setChatLoading(convId, false)

    chatStore->>chatStore: clearChatStreaming(convId)

    chatStore->>chatStore: clearProcessingState(convId)

    deactivate chatStore



    %% ═══════════════════════════════════════════════════════════════════════════

    Note over UI,API: ⏹️ STOP GENERATION

    %% ═══════════════════════════════════════════════════════════════════════════



    UI->>chatStore: stopGeneration()

    activate chatStore

    chatStore->>chatStore: savePartialResponseIfNeeded(convId)

    Note right of chatStore: Save currentResponse to DB if non-empty

    chatStore->>chatStore: abortControllers.get(convId).abort()

    Note right of chatStore: fetch throws AbortError → caught by isAbortError()

    chatStore->>chatStore: stopStreaming()

    chatStore->>chatStore: setChatLoading(convId, false)

    chatStore->>chatStore: clearChatStreaming(convId)

    chatStore->>chatStore: clearProcessingState(convId)

    deactivate chatStore



    %% ═══════════════════════════════════════════════════════════════════════════

    Note over UI,API: 🔁 REGENERATE

    %% ═══════════════════════════════════════════════════════════════════════════



    UI->>chatStore: regenerateMessageWithBranching(msgId, model?)

    activate chatStore

    chatStore->>convStore: findMessageIndex(msgId)

    chatStore->>chatStore: Get parent of target message

    chatStore->>chatStore: createAssistantMessage(parentId)

    chatStore->>DbSvc: createMessageBranch(newAssistantMsg, parentId)

    chatStore->>convStore: refreshActiveMessages()

    Note right of chatStore: Same streaming flow

    chatStore->>chatStore: streamChatCompletion(...)

    deactivate chatStore



    %% ═══════════════════════════════════════════════════════════════════════════

    Note over UI,API: ➡️ CONTINUE

    %% ═══════════════════════════════════════════════════════════════════════════



    UI->>chatStore: continueAssistantMessage(msgId)

    activate chatStore

    chatStore->>chatStore: Get existing content from message

    chatStore->>chatStore: streamChatCompletion(..., existingContent)

    Note right of chatStore: Appends to existing message content

    deactivate chatStore



    %% ═══════════════════════════════════════════════════════════════════════════

    Note over UI,API: ✏️ EDIT USER MESSAGE

    %% ═══════════════════════════════════════════════════════════════════════════



    UI->>chatStore: editUserMessagePreserveResponses(msgId, newContent)

    activate chatStore

    chatStore->>chatStore: Get parent of target message

    chatStore->>DbSvc: createMessageBranch(editedMsg, parentId)

    chatStore->>convStore: refreshActiveMessages()

    Note right of chatStore: Creates new branch, original preserved

    deactivate chatStore



    %% ═══════════════════════════════════════════════════════════════════════════

    Note over UI,API: ❌ ERROR HANDLING

    %% ═══════════════════════════════════════════════════════════════════════════



    Note over chatStore: On stream error (non-abort):

    chatStore->>chatStore: showErrorDialog(type, message)

    Note right of chatStore: errorDialogState = {type: 'timeout'|'server', message}

    chatStore->>convStore: removeMessageAtIndex(failedMsgIdx)

    chatStore->>DbSvc: deleteMessage(failedMsgId)

```