forked from open-webui/open-webui
wip: displaying error in a toast
This commit is contained in:
Rohit Das
parent
a7bec01d7b
commit
195cfd4f84
2 changed files with 140 additions and 120 deletions
|
|
@ -191,80 +191,90 @@
|
||||||
})
|
})
|
||||||
});
|
});
|
||||||
|
|
||||||
const reader = res.body
|
if (!res.ok) {
|
||||||
.pipeThrough(new TextDecoderStream())
|
const error = await res.json();
|
||||||
.pipeThrough(splitStream('\n'))
|
console.log(error);
|
||||||
.getReader();
|
if ('detail' in error) {
|
||||||
|
toast.error(error.detail);
|
||||||
while (true) {
|
} else {
|
||||||
const { value, done } = await reader.read();
|
toast.error(error.error);
|
||||||
if (done || stopResponseFlag || _chatId !== $chatId) {
|
|
||||||
responseMessage.done = true;
|
|
||||||
messages = messages;
|
|
||||||
break;
|
|
||||||
}
|
}
|
||||||
|
} else {
|
||||||
|
const reader = res.body
|
||||||
|
.pipeThrough(new TextDecoderStream())
|
||||||
|
.pipeThrough(splitStream('\n'))
|
||||||
|
.getReader();
|
||||||
|
|
||||||
try {
|
while (true) {
|
||||||
let lines = value.split('\n');
|
const { value, done } = await reader.read();
|
||||||
|
if (done || stopResponseFlag || _chatId !== $chatId) {
|
||||||
|
responseMessage.done = true;
|
||||||
|
messages = messages;
|
||||||
|
break;
|
||||||
|
}
|
||||||
|
|
||||||
for (const line of lines) {
|
try {
|
||||||
if (line !== '') {
|
let lines = value.split('\n');
|
||||||
console.log(line);
|
|
||||||
let data = JSON.parse(line);
|
|
||||||
|
|
||||||
if ('detail' in data) {
|
for (const line of lines) {
|
||||||
throw data;
|
if (line !== '') {
|
||||||
}
|
console.log(line);
|
||||||
|
let data = JSON.parse(line);
|
||||||
|
|
||||||
if (data.done == false) {
|
if ('detail' in data) {
|
||||||
if (responseMessage.content == '' && data.message.content == '\n') {
|
throw data;
|
||||||
continue;
|
}
|
||||||
|
|
||||||
|
if (data.done == false) {
|
||||||
|
if (responseMessage.content == '' && data.message.content == '\n') {
|
||||||
|
continue;
|
||||||
|
} else {
|
||||||
|
responseMessage.content += data.message.content;
|
||||||
|
messages = messages;
|
||||||
|
}
|
||||||
} else {
|
} else {
|
||||||
responseMessage.content += data.message.content;
|
responseMessage.done = true;
|
||||||
|
responseMessage.context = data.context ?? null;
|
||||||
|
responseMessage.info = {
|
||||||
|
total_duration: data.total_duration,
|
||||||
|
prompt_eval_count: data.prompt_eval_count,
|
||||||
|
prompt_eval_duration: data.prompt_eval_duration,
|
||||||
|
eval_count: data.eval_count,
|
||||||
|
eval_duration: data.eval_duration
|
||||||
|
};
|
||||||
messages = messages;
|
messages = messages;
|
||||||
}
|
}
|
||||||
} else {
|
|
||||||
responseMessage.done = true;
|
|
||||||
responseMessage.context = data.context ?? null;
|
|
||||||
responseMessage.info = {
|
|
||||||
total_duration: data.total_duration,
|
|
||||||
prompt_eval_count: data.prompt_eval_count,
|
|
||||||
prompt_eval_duration: data.prompt_eval_duration,
|
|
||||||
eval_count: data.eval_count,
|
|
||||||
eval_duration: data.eval_duration
|
|
||||||
};
|
|
||||||
messages = messages;
|
|
||||||
}
|
}
|
||||||
}
|
}
|
||||||
|
} catch (error) {
|
||||||
|
console.log(error);
|
||||||
|
if ('detail' in error) {
|
||||||
|
toast.error(error.detail);
|
||||||
|
}
|
||||||
|
break;
|
||||||
}
|
}
|
||||||
} catch (error) {
|
|
||||||
console.log(error);
|
if (autoScroll) {
|
||||||
if ('detail' in error) {
|
window.scrollTo({ top: document.body.scrollHeight });
|
||||||
toast.error(error.detail);
|
|
||||||
}
|
}
|
||||||
break;
|
|
||||||
}
|
|
||||||
|
|
||||||
if (autoScroll) {
|
await $db.updateChatById(_chatId, {
|
||||||
window.scrollTo({ top: document.body.scrollHeight });
|
title: title === '' ? 'New Chat' : title,
|
||||||
|
models: selectedModels,
|
||||||
|
system: $settings.system ?? undefined,
|
||||||
|
options: {
|
||||||
|
seed: $settings.seed ?? undefined,
|
||||||
|
temperature: $settings.temperature ?? undefined,
|
||||||
|
repeat_penalty: $settings.repeat_penalty ?? undefined,
|
||||||
|
top_k: $settings.top_k ?? undefined,
|
||||||
|
top_p: $settings.top_p ?? undefined,
|
||||||
|
num_ctx: $settings.num_ctx ?? undefined,
|
||||||
|
...($settings.options ?? {})
|
||||||
|
},
|
||||||
|
messages: messages,
|
||||||
|
history: history
|
||||||
|
});
|
||||||
}
|
}
|
||||||
|
|
||||||
await $db.updateChatById(_chatId, {
|
|
||||||
title: title === '' ? 'New Chat' : title,
|
|
||||||
models: selectedModels,
|
|
||||||
system: $settings.system ?? undefined,
|
|
||||||
options: {
|
|
||||||
seed: $settings.seed ?? undefined,
|
|
||||||
temperature: $settings.temperature ?? undefined,
|
|
||||||
repeat_penalty: $settings.repeat_penalty ?? undefined,
|
|
||||||
top_k: $settings.top_k ?? undefined,
|
|
||||||
top_p: $settings.top_p ?? undefined,
|
|
||||||
num_ctx: $settings.num_ctx ?? undefined,
|
|
||||||
...($settings.options ?? {})
|
|
||||||
},
|
|
||||||
messages: messages,
|
|
||||||
history: history
|
|
||||||
});
|
|
||||||
}
|
}
|
||||||
|
|
||||||
stopResponseFlag = false;
|
stopResponseFlag = false;
|
||||||
|
|
|
||||||
|
|
@ -218,80 +218,90 @@
|
||||||
})
|
})
|
||||||
});
|
});
|
||||||
|
|
||||||
const reader = res.body
|
if (!res.ok) {
|
||||||
.pipeThrough(new TextDecoderStream())
|
const error = await res.json();
|
||||||
.pipeThrough(splitStream('\n'))
|
console.log(error);
|
||||||
.getReader();
|
if ('detail' in error) {
|
||||||
|
toast.error(error.detail);
|
||||||
while (true) {
|
} else {
|
||||||
const { value, done } = await reader.read();
|
toast.error(error.error);
|
||||||
if (done || stopResponseFlag || _chatId !== $chatId) {
|
|
||||||
responseMessage.done = true;
|
|
||||||
messages = messages;
|
|
||||||
break;
|
|
||||||
}
|
}
|
||||||
|
} else {
|
||||||
|
const reader = res.body
|
||||||
|
.pipeThrough(new TextDecoderStream())
|
||||||
|
.pipeThrough(splitStream('\n'))
|
||||||
|
.getReader();
|
||||||
|
|
||||||
try {
|
while (true) {
|
||||||
let lines = value.split('\n');
|
const { value, done } = await reader.read();
|
||||||
|
if (done || stopResponseFlag || _chatId !== $chatId) {
|
||||||
|
responseMessage.done = true;
|
||||||
|
messages = messages;
|
||||||
|
break;
|
||||||
|
}
|
||||||
|
|
||||||
for (const line of lines) {
|
try {
|
||||||
if (line !== '') {
|
let lines = value.split('\n');
|
||||||
console.log(line);
|
|
||||||
let data = JSON.parse(line);
|
|
||||||
|
|
||||||
if ('detail' in data) {
|
for (const line of lines) {
|
||||||
throw data;
|
if (line !== '') {
|
||||||
}
|
console.log(line);
|
||||||
|
let data = JSON.parse(line);
|
||||||
|
|
||||||
if (data.done == false) {
|
if ('detail' in data) {
|
||||||
if (responseMessage.content == '' && data.message.content == '\n') {
|
throw data;
|
||||||
continue;
|
}
|
||||||
|
|
||||||
|
if (data.done == false) {
|
||||||
|
if (responseMessage.content == '' && data.message.content == '\n') {
|
||||||
|
continue;
|
||||||
|
} else {
|
||||||
|
responseMessage.content += data.message.content;
|
||||||
|
messages = messages;
|
||||||
|
}
|
||||||
} else {
|
} else {
|
||||||
responseMessage.content += data.message.content;
|
responseMessage.done = true;
|
||||||
|
responseMessage.context = data.context ?? null;
|
||||||
|
responseMessage.info = {
|
||||||
|
total_duration: data.total_duration,
|
||||||
|
prompt_eval_count: data.prompt_eval_count,
|
||||||
|
prompt_eval_duration: data.prompt_eval_duration,
|
||||||
|
eval_count: data.eval_count,
|
||||||
|
eval_duration: data.eval_duration
|
||||||
|
};
|
||||||
messages = messages;
|
messages = messages;
|
||||||
}
|
}
|
||||||
} else {
|
|
||||||
responseMessage.done = true;
|
|
||||||
responseMessage.context = data.context ?? null;
|
|
||||||
responseMessage.info = {
|
|
||||||
total_duration: data.total_duration,
|
|
||||||
prompt_eval_count: data.prompt_eval_count,
|
|
||||||
prompt_eval_duration: data.prompt_eval_duration,
|
|
||||||
eval_count: data.eval_count,
|
|
||||||
eval_duration: data.eval_duration
|
|
||||||
};
|
|
||||||
messages = messages;
|
|
||||||
}
|
}
|
||||||
}
|
}
|
||||||
|
} catch (error) {
|
||||||
|
console.log(error);
|
||||||
|
if ('detail' in error) {
|
||||||
|
toast.error(error.detail);
|
||||||
|
}
|
||||||
|
break;
|
||||||
}
|
}
|
||||||
} catch (error) {
|
|
||||||
console.log(error);
|
if (autoScroll) {
|
||||||
if ('detail' in error) {
|
window.scrollTo({ top: document.body.scrollHeight });
|
||||||
toast.error(error.detail);
|
|
||||||
}
|
}
|
||||||
break;
|
|
||||||
}
|
|
||||||
|
|
||||||
if (autoScroll) {
|
await $db.updateChatById(_chatId, {
|
||||||
window.scrollTo({ top: document.body.scrollHeight });
|
title: title === '' ? 'New Chat' : title,
|
||||||
|
models: selectedModels,
|
||||||
|
system: $settings.system ?? undefined,
|
||||||
|
options: {
|
||||||
|
seed: $settings.seed ?? undefined,
|
||||||
|
temperature: $settings.temperature ?? undefined,
|
||||||
|
repeat_penalty: $settings.repeat_penalty ?? undefined,
|
||||||
|
top_k: $settings.top_k ?? undefined,
|
||||||
|
top_p: $settings.top_p ?? undefined,
|
||||||
|
num_ctx: $settings.num_ctx ?? undefined,
|
||||||
|
...($settings.options ?? {})
|
||||||
|
},
|
||||||
|
messages: messages,
|
||||||
|
history: history
|
||||||
|
});
|
||||||
}
|
}
|
||||||
|
|
||||||
await $db.updateChatById(_chatId, {
|
|
||||||
title: title === '' ? 'New Chat' : title,
|
|
||||||
models: selectedModels,
|
|
||||||
system: $settings.system ?? undefined,
|
|
||||||
options: {
|
|
||||||
seed: $settings.seed ?? undefined,
|
|
||||||
temperature: $settings.temperature ?? undefined,
|
|
||||||
repeat_penalty: $settings.repeat_penalty ?? undefined,
|
|
||||||
top_k: $settings.top_k ?? undefined,
|
|
||||||
top_p: $settings.top_p ?? undefined,
|
|
||||||
num_ctx: $settings.num_ctx ?? undefined,
|
|
||||||
...($settings.options ?? {})
|
|
||||||
},
|
|
||||||
messages: messages,
|
|
||||||
history: history
|
|
||||||
});
|
|
||||||
}
|
}
|
||||||
|
|
||||||
stopResponseFlag = false;
|
stopResponseFlag = false;
|
||||||
|
|
|
||||||
Loading…
Reference in a new issue