channel
string
post_ids
list
n_posts
int64
dt_utc_first
timestamp[ns, tz=UTC]
dt_utc_last
timestamp[ns, tz=UTC]
html_unwrapped
string
label
string
priority_max
int64
AGI_and_RL
[ 948 ]
1
2025-01-28T15:57:00Z
2025-01-28T15:57:00Z
Самый интересный и популярный алгоритм для тренировки ллмок GRPO заехал в trl<br/><br/><a href="https://github.com/huggingface/trl/blob/main/docs/source/grpo_trainer.md" rel="noopener" target="_blank">https://github.com/huggingface/trl/blob/main/docs/source/grpo_trainer.md</a><br/><br/>Вообще оригинальная статья с этим...
tldr
2
AGI_and_RL
[ 949 ]
1
2025-01-29T14:46:14Z
2025-01-29T14:46:14Z
Ребята, я зашел на сайт дипсиков и они и правда упоминают в коде OpenAI <tg-emoji emoji-id="5235640209852343235"><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F98B1.png')"><b>😱</b></i></tg-emoji><tg-emoji emoji-id="5235640209852343235"><i class="emoji" style="background-image:url('//tele...
other
2
AGI_and_RL
[ 950 ]
1
2025-01-29T16:38:15Z
2025-01-29T16:38:15Z
А вот есть у нас SFT (Supervised fine-tuning) и RL (<b><u>reinforcement learning</u></b>) на посттрейне ллмов.<br/>Вот бы померить а есть ли там разница с обобщающими способностями и запоминанием после этих тюнов.<br/><br/>Сделали бенч из двух задачек. В каждой задачке был текстовый вариант и визуальный вариант.<br/><b...
tldr
1
AGI_and_RL
[ 954, 955 ]
2
2025-02-03T11:39:30Z
2025-02-03T12:04:31Z
Инженер LLM (Оптимизация и RL Alignment)<br/>Стартап в области безопасности ИИ<br/><br/>Чем предстоит заниматься:<br/><br/>Дообучение и Оценка Sota llm, аттаки на blackbox модели<br/><br/>Улучшение RL для аттак на модели, настройки моделей (PPO, RLHF, стабильность обучения).<br/><br/>Бенчмаркинг и оценка качества модел...
other
2
AGI_and_RL
[ 956 ]
1
2025-02-07T04:12:03Z
2025-02-07T04:12:03Z
Первая экспериментальная Ruadapt ризонинг модель:<br/>RuadaptQwen2.5-14B-R1-distill-preview-v1<br/><br/>Это адаптация модели deepseek-ai/DeepSeek-R1-Distill-Qwen-14B с SFT шагом после LEP на смеси датасетов kristaller486/Nebo-T1-Russian (все ру, 12-13 т.) и Egor-AI/CoT-XLang (2 т. случайных англ.) Во время SFT шага ник...
tldr
2
AGI_and_RL
[ 957 ]
1
2025-02-10T11:09:56Z
2025-02-10T11:09:56Z
<b>Претренить нужно в INT4</b><br/><br/>Выпустили статью где задизайнили новый способ обучения в низкой битности: <i>QuEST</i>. Если вкратце, аккуратно оптимизировали как производить округление на <i>forward</i> и как пропускать через него градиенты на <i>backward</i>. И это и для весов, и для активаций.<br/><br/><b>Ре...
tldr
2
AGI_and_RL
[ 958 ]
1
2025-02-12T16:18:40Z
2025-02-12T16:18:40Z
Тут потюнили 1.5B модельку и авторы пишут, что на некоторых бенчах смогли выбить результы больше чем у O1-Preview.<br/>Ребятам для тюна потребовало 3,800 часов на A100. Взяли они уже претрененую <a href="http://eepseek-R1-Distilled-Qwen-1.5B/" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" ta...
tldr
2
AGI_and_RL
[ 960 ]
1
2025-02-12T17:25:53Z
2025-02-12T17:25:53Z
<i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/E29AA1.png')"><b>⚡️</b></i> <b>QVikhr-2.5-1.5B-Instruct-r</b> — Наша новая компактная llm теперь еще и с GRPO этапом. За счет GRPO это теперь первая reasoning модель на русском языке с честным RL . <br/><br/><br/><i class="emoji" style="backgroun...
tldr
2
AGI_and_RL
[ 962 ]
1
2025-02-13T06:53:07Z
2025-02-13T06:53:07Z
Ребята из Open-R1 продолжают рассказывать о том, что сейчас делают.<br/><br/><a href="https://huggingface.co/blog/open-r1/update-2" rel="noopener" target="_blank">https://huggingface.co/blog/open-r1/update-2</a><br/><br/>Нагенерили датасетов (трейсы с R1 к решению мат задачек из <a href="https://huggingface.co/datasets...
tldr
2
AGI_and_RL
[ 963 ]
1
2025-02-19T12:42:12Z
2025-02-19T12:42:12Z
Кстати, Сэм Альтман проводил опрос, чего бы опенсурснуть следующим - модельку типа o3-mini (небольшую рассуждалку) или вообще мелкую модельку которую можно было бы на мобилках крутить.<br/><br/>Сам на опрос не успел, но по-моему пусть лучше модельку уровня o3-mini выклыдывают в общий. Ну оно и победило, кстати) Жду
other
1
AGI_and_RL
[ 964 ]
1
2025-02-19T17:18:32Z
2025-02-19T17:18:32Z
<b>Qwen2.5-7B-Instruct-Tool-Planning-v0.1</b><br/><br/>Первый vikhr обученный на Function Calling а так же Tool planing!<br/>Модель обучена преимущественно на английском и это экспериментальный чекпоинт, используйте и пишите отзывы!<br/><br/><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09...
tldr
2
AGI_and_RL
[ 965 ]
1
2025-02-20T06:06:20Z
2025-02-20T06:06:20Z
HuggingFace <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09FA497.png')"><b>🤗</b></i> выложили <br/><br/><b>The Ultra-Scale Playbook:<br/>Training LLMs on GPU Clusters<br/></b><a href="https://huggingface.co/spaces/nanotron/ultrascale-playbook" rel="noopener" target="_blank">https://huggin...
other
2
AGI_and_RL
[ 966 ]
1
2025-02-20T16:34:17Z
2025-02-20T16:34:17Z
Там это... Ребята из Саканы выложили своего оптимизатора торч кода для видеокарт.<br/><br/>The AI CUDA Engineer: Agentic CUDA Kernel Discovery, Optimization and Composition<br/><a href="https://sakana.ai/ai-cuda-engineer/" rel="noopener" target="_blank">https://sakana.ai/ai-cuda-engineer/</a><br/><br/>Это фреймворк с л...
tldr
2
AGI_and_RL
[ 967 ]
1
2025-02-21T10:38:48Z
2025-02-21T10:38:48Z
<i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F8CB8.png')"><b>🌸</b></i><b>MLGym – открытый фреймворк и бенчмарк для Агентов в автоматизации ML-задач</b><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F8CB8.png')"><b>🌸</b></i><br/><a href="?q=%23nlp">#nlp</a>...
tldr
2
AGI_and_RL
[ 968 ]
1
2025-02-22T07:48:58Z
2025-02-22T07:48:58Z
rl... rl всегда возвращается<br/><br/>это еще из очень олдовых экспериментов хардмару, но ржомба<br/><br/><blockquote>Если убрать все ограничения конструкции, оптимизатор придумал действительно высокого двуногого шагающего робота, который «решает» задачу, просто падая и приземляясь около выхода.</blockquote><br/><br/><...
other
2
AGI_and_RL
[ 969, 970 ]
2
2025-02-22T09:49:08Z
2025-02-22T10:10:00Z
<div class="tgme_widget_message_text js-message_reply_text" dir="auto">Есть вот такая эксплорилка архива. https://www.alphaxiv.org/explore Что-то типа https://huggingface.co/papers Показывает тренды папир на архиве К статьям можно оставлять комменты, ставить <i class="emoji" style="background-image:url('//telegram.or...
other
2
AGI_and_RL
[ 971 ]
1
2025-02-22T15:48:39Z
2025-02-22T15:48:39Z
У нас тут бегущий по ризонингу<br/><br/>Ребята потренили Qwen 1.5B на то чтобы проходить не сильно сложные лабиринты 5x5. Но исходная моделька и этого не умела.<br/><br/>Нагенерили <a href="https://huggingface.co/datasets/jan-hq/Maze-Reasoning" rel="noopener" target="_blank">https://huggingface.co/datasets/jan-hq/Maze-...
tldr
2
AGI_and_RL
[ 972 ]
1
2025-02-25T07:07:35Z
2025-02-25T07:07:35Z
Ммм, там датасетик на 250к семплов под RL над LLMками и <i>ризонинге</i> подвезли. Все по матеше конечное<br/><br/>Это сборка из других открытых датасетов (на скринах) + 47к своих новых (назвали Big-Math-Reformulated).<br/><br/>Мол в открытых датасетах не всегда прям качественные данные, поэтому вот авторы хорошее посо...
tldr
2
AGI_and_RL
[ 974 ]
1
2025-02-25T11:03:58Z
2025-02-25T11:03:58Z
Ребятки, не забываем про квен (он в России работает)<br/><br/><a href="https://chat.qwen.ai/" rel="noopener" target="_blank">https://chat.qwen.ai/</a><br/><br/>Там вроде как апдейтик с думающим Qwen2.5-Max подвезли. Нравится.<br/><br/>Чтобы модельки размышляли нажимаем Thinking (QwQ)
other
1
AGI_and_RL
[ 975 ]
1
2025-02-27T11:47:28Z
2025-02-27T11:47:28Z
Member of Technical Staff LLM (Оптимизация и RL Alignment)<br/>Стартап в области безопасности ИИ<br/><br/>Чем предстоит заниматься:<br/><br/>Дообучение и Оценка Sota llm, аттаки на blackbox модели<br/><br/>Заставлять LLM генерировать рецепты всего и тд<br/><br/>Улучшение RL для аттак на модели, настройки моделей (PPO, ...
other
2
AGI_and_RL
[ 976 ]
1
2025-03-03T11:14:35Z
2025-03-03T11:14:35Z
Вышла приятная обзорка по методам посттренинга LLMов и по ризонингу. С красивыми табличками, схемками.<br/><br/>Много про разного вида RL который можно применять, цепочки рассуждений, test-time scaling и вот это все<br/>Читаем!<br/><br/><b>LLM Post-Training: A Deep Dive into Reasoning Large Language Models</b><br/><a ...
tldr
2
AGI_and_RL
[ 979 ]
1
2025-03-05T15:05:00Z
2025-03-05T15:05:00Z
reinforcementlearningreinforcementlearningreinforcementlearning<br/><br/>Ну шьто? Эндрю Барто и Ричард Саттон получают премию Тьюринга за RL <tg-emoji emoji-id="5238048140317170954"><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09FA5B3.png')"><b>🥳</b></i></tg-emoji><tg-emoji emoji-id="5235...
other
2
AGI_and_RL
[ 980 ]
1
2025-03-06T05:53:02Z
2025-03-06T05:53:02Z
Квены дают QwQ-32B. Моделька с размышлениями, которую можно у себя развернуть.<br/><br/>Контекст 131,072 токенов<br/><br/><a href="https://qwenlm.github.io/blog/qwq-32b/" rel="noopener" target="_blank">https://qwenlm.github.io/blog/qwq-32b/</a><br/><br/><a href="https://huggingface.co/Qwen/QwQ-32B" rel="noopener" targe...
other
1
AGI_and_RL
[ 981 ]
1
2025-03-06T15:58:53Z
2025-03-06T15:58:53Z
AMD выложили 3B модельки трененые на MI300X<br/><br/><a href="https://rocm.blogs.amd.com/artificial-intelligence/introducing-instella-3B/README.html" rel="noopener" target="_blank">https://rocm.blogs.amd.com/artificial-intelligence/introducing-instella-3B/README.html</a><br/><br/><a href="https://github.com/AMD-AIG-AIM...
tldr
2
AGI_and_RL
[ 983 ]
1
2025-03-07T15:48:00Z
2025-03-07T15:48:00Z
Учим модельки решать интегралы через декомпозицию задач и обучение на более простых вариантах. С <b>RLем</b> конечно же.<br/><br/>Подход называется Learning through Autonomous Difficulty-Driven Example Recursion (LADDER).<br/><br/>Моделька генерирует более простые версии сложных задач, которые становятся всё проще на к...
tldr
2
AGI_and_RL
[ 987 ]
1
2025-03-08T18:28:58Z
2025-03-08T18:28:58Z
Там походу на редите засветились 4090 96гб<br/>Нада <tg-emoji emoji-id="5461042021986737384"><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F98B1.png')"><b>😱</b></i></tg-emoji><br/><br/><a href="https://www.reddit.com/r/LocalLLaMA/s/gHde13Isqx" rel="noopener" target="_blank">https://www.r...
other
2
AGI_and_RL
[ 988 ]
1
2025-03-10T16:00:09Z
2025-03-10T16:00:09Z
<b>Towards General-Purpose Model-Free Reinforcement Learning<br/></b><br/>Скотт Фуджимото может быть известен вам как один из пионеров современных рл методов - <a href="https://arxiv.org/abs/1802.09477" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">TD3</a> &amp; <a href="http...
tldr
2
AGI_and_RL
[ 993 ]
1
2025-03-11T14:44:58Z
2025-03-11T14:44:58Z
ЛЛМам пора на завод. Там сделали енвайронмент-бенч для ллмок из игры Factorio.<br/>Я не специалист по факторио, но в целом всегда казалось что тут можно тестить и учить рл. Вот ллмки тестят<br/><br/><a href="https://jackhopkins.github.io/factorio-learning-environment/" rel="noopener" target="_blank">https://jackhopkins...
tldr
2
AGI_and_RL
[ 994, 995 ]
2
2025-03-12T13:53:04Z
2025-03-12T13:58:32Z
<b>третий</b> апдейт по <b>Open R1</b><br/><br/><a href="https://huggingface.co/blog/open-r1/update-3" rel="noopener" target="_blank">https://huggingface.co/blog/open-r1/update-3</a><br/><br/>Чем занимались<br/><br/>Созданием <b>CodeForces-CoTs</b>: датасетом, содержащим почти 100 тысяч высококачественных примеров, пол...
tldr
2
AGI_and_RL
[ 999, 1000 ]
2
2025-03-25T17:38:47Z
2025-03-25T17:59:35Z
Там кстати большое обновление GRPO вышло в trl<br/>завезли кучу оптимизаций из недавних статей + мультинод трейнинг<br/><a href="https://github.com/huggingface/trl/releases/tag/v0.16.0" rel="noopener" target="_blank">https://github.com/huggingface/trl/releases/tag/v0.16.0</a> <div class="tgme_widget_message_text js-me...
other
2
AGI_and_RL
[ 1001 ]
1
2025-03-27T16:02:47Z
2025-03-27T16:02:47Z
Тут автор рассказывает про свои эксперименты с ллм и GRPO для улучшения алгоритмов сортировки<br/><br/><a href="https://hrishbh.com/ai-as-algorithm-designer-teaching-llms-to-improve-sorting-through-trial-and-error-in-grpo/" rel="noopener" target="_blank">https://hrishbh.com/ai-as-algorithm-designer-teaching-llms-to-imp...
tldr
2
AGI_and_RL
[ 1002 ]
1
2025-03-27T16:57:45Z
2025-03-27T16:57:45Z
чатгпт сделал нам отличную шпору по рлю. изучаем<br/>На английском конечно же намного лучше получается<br/>Агрея, стодание, полеход - каждый должен знать, это база
other
2
AGI_and_RL
[ 1004, 1005 ]
2
2025-04-03T19:59:06Z
2025-04-03T20:03:26Z
Коротенькая выжимка на английском по отличиям обжективов в алгоритмах REINFORCE, ReMax, RLOO, PPO, GRPO, Dr. GRPO<br/><a href="https://lancelqf.github.io/note/llm_post_training/" rel="noopener" target="_blank">https://lancelqf.github.io/note/llm_post_training/</a> Здесь автор пилит UI-шку для экспериментов с обычным р...
other
2
AGI_and_RL
[ 1006 ]
1
2025-04-04T14:17:46Z
2025-04-04T14:17:46Z
Тут кстати есть довольно свежии лекции по квантовым алгоритмам<br/><br/><a href="https://www.cs.umd.edu/~amchilds/qa/" rel="noopener" target="_blank">https://www.cs.umd.edu/~amchilds/qa/</a>
other
2
AGI_and_RL
[ 1007 ]
1
2025-04-04T19:41:36Z
2025-04-04T19:41:36Z
RL с ллмами притянули к рекомендашкам. Тюнили Qwen 2.5 3B.<br/><br/>Оптимизировались на двух задачах:<br/><br/>Задача поиска товаров (Product Search). Пользователь пишет запрос, LLM запрос переписывает или уточняет, после чего система на основе переработанного запроса (например, через BM25) возвращает список кандидато...
tldr
2
AGI_and_RL
[ 1011 ]
1
2025-04-05T12:52:00Z
2025-04-05T12:52:00Z
Еще обзорок по тест-тайм скейлингам и мультиагентам ?<br/><br/>Ни слова больше <br/><br/><b>What, How, Where, and How Well? A Survey on Test-Time Scaling in Large Language Models</b><br/><a href="https://arxiv.org/abs/2503.24235" rel="noopener" target="_blank">https://arxiv.org/abs/2503.24235</a><br/><br/><b>A Comprehe...
other
2
AGI_and_RL
[ 1012 ]
1
2025-04-05T17:22:43Z
2025-04-05T17:22:43Z
Есть такой проектик tiny-grpo от ребят из open-thoughts: <a href="https://github.com/open-thought/tiny-grpo" rel="noopener" target="_blank">https://github.com/open-thought/tiny-grpo</a><br/>типа минималистичный имплемент грпо. уже давний получается, ему 3 месяца.<br/>Но единственный пример с лламой 1б не запускался хот...
other
2
AGI_and_RL
[ 1013 ]
1
2025-04-06T13:16:36Z
2025-04-06T13:16:36Z
Тут толпа исследователей из разных компаний и универов сделалил большую обзорку по современным компонентам агентов<br/><br/>Обучение, ризонинги, память, world models, много про RL, реварды, действия и вызов тулов, эволюционные системы, самоулучшение, сейфти и вообще куча всего<br/><br/>190 страниц текста и 74 страницы...
tldr
2
AGI_and_RL
[ 1017, 1018 ]
2
2025-04-07T17:20:53Z
2025-04-07T17:30:33Z
В nature решили вспомнить про Dreamer, прикольно<br/> <a href="https://www.nature.com/articles/d41586-025-01019-w" rel="noopener" target="_blank">https://www.nature.com/articles/d41586-025-01019-w</a><br/><br/><a href="https://danijar.com/project/dreamerv3/" rel="noopener" target="_blank">https://danijar.com/project/dr...
other
2
AGI_and_RL
[ 1019 ]
1
2025-04-10T16:45:41Z
2025-04-10T16:45:41Z
Там еще один фреймворк делают чтобы ллмы RLем учить<br/><br/><a href="https://github.com/agentica-project/rllm" rel="noopener" target="_blank">https://github.com/agentica-project/rllm</a><br/><br/>А еще потюнили 14B модельку (из Deepseek-R1-Distilled-Qwen-14B)<br/><br/>DeepCoder-14B-Preview<br/><a href="https://hugging...
tldr
2
AGI_and_RL
[ 1020 ]
1
2025-04-11T11:29:31Z
2025-04-11T11:29:31Z
На архив приедут аудио саммари<br/><a href="https://blog.arxiv.org/2025/04/08/arxiv-pilots-audio-summaries-in-partnership-with-sciencecast/" rel="noopener" target="_blank">https://blog.arxiv.org/2025/04/08/arxiv-pilots-audio-summaries-in-partnership-with-sciencecast/</a><br/><br/>Пока доступны для High Energy Astrophys...
other
2
AGI_and_RL
[ 1021 ]
1
2025-04-11T13:01:59Z
2025-04-11T13:01:59Z
Учимся с GRPO генерить длинные тексты<br/><br/>В работе тюнят Qwen-2.5 7B-Instruct-1M и 3B.<br/><br/>Представим что мы хотим научить ллмку книги писать.<br/>Вместо генерации всей книги, будем учить модель генерировать одну следующую главу, используя <b>Story Information</b> с предыдущей главы:<br/><br/><b>High-level st...
tldr
2
AGI_and_RL
[ 1025 ]
1
2025-04-11T16:23:50Z
2025-04-11T16:23:50Z
<a href="https://ai-2027.com/" rel="noopener" target="_blank">https://ai-2027.com/</a><br/><br/>Кто-нибудь читал? Стоит вообще открывать?
other
2
AGI_and_RL
[ 1026 ]
1
2025-04-12T18:59:51Z
2025-04-12T18:59:51Z
Там кстати разрабы ARC AGI походу работают над платформой для веб-приложунек/окружений/игр<br/>Открыли вакуху на WebGL Unity разраба<br/><a href="https://arcprize.org/jobs" rel="noopener" target="_blank">https://arcprize.org/jobs</a><br/><br/>Я считал подобную идею чтобы делать енвы в браузере уже давно хорошей. Но я к...
other
2
AGI_and_RL
[ 1027 ]
1
2025-04-12T19:41:53Z
2025-04-12T19:41:53Z
Что мы знаем про дифузионные LLM?<br/>Я только то, что им теперь завезли GRPO (diffu-GRPO)<br/><br/>дифузионные ллмщики думали что вас не заденет? Сюдааа<br/><br/><b>d1: Scaling Reasoning in Diffusion Large Language Models via Reinforcement Learning</b><br/><a href="https://dllm-reasoning.github.io/" rel="noopener" tar...
tldr
2
AGI_and_RL
[ 1029 ]
1
2025-04-13T08:14:49Z
2025-04-13T08:14:49Z
За последнее время выходила куча работ по ризонингам<br/>Среди них было много по тюну 1.5B моделек.<br/>И вот тут ребята решили заново проевалить полученные 1.5B ризонеры и сравнить с зарепорчеными авторами метриками. Ну и получилось меньше<br/><br/>Я вот писал про работу DeepScaler где якобы смогли получить на 1.5B мо...
tldr
2
AGI_and_RL
[ 1030 ]
1
2025-04-13T09:37:00Z
2025-04-13T09:37:00Z
Давайте составим план (предсказание) по AI до 2030 в комментариях к этому посту (жду ваших вариантов)
other
2
AGI_and_RL
[ 1031 ]
1
2025-04-13T12:03:17Z
2025-04-13T12:03:17Z
Какая локальная моделька лучшая для кодинга? Это прям вопрос, я сам ищу.<br/>Я думал что может Gemma 3 27B или QwQ.<br/><br/>Если смотреть на ливбенч с чисто фильтром по коду, то <br/><a href="https://livebench.ai/#/?Coding=a" rel="noopener" target="_blank">https://livebench.ai/#/?Coding=a</a><br/><br/>получается, что...
other
2
AGI_and_RL
[ 1032 ]
1
2025-04-13T18:38:24Z
2025-04-13T18:38:24Z
Там кстати говорят что Safe Superintelligence Inc. Ильи Суцкевера оценивается в $32B<br/><br/><a href="https://techcrunch.com/2025/04/12/openai-co-founder-ilya-sutskevers-safe-superintelligence-reportedly-valued-at-32b/" rel="noopener" target="_blank">https://techcrunch.com/2025/04/12/openai-co-founder-ilya-sutskevers-...
other
2
AGI_and_RL
[ 1033 ]
1
2025-04-14T13:39:28Z
2025-04-14T13:39:28Z
Может кому-то интересны локальные ллмки с длинными контекстами.<br/>Нвидия потюнили лламы 3.1 8B аж до 4м контекста как они пишут.<br/><br/>С одной стороны это круто. С другой стороны я чот ни одной хорошей ллмки от нвидии не видел. Все что не щупал, ну оно прям чот не оч. Но времена-то меняются, да?<br/>Самому мне нег...
tldr
2
AGI_and_RL
[ 1034, 1035 ]
2
2025-04-14T16:53:35Z
2025-04-14T17:09:03Z
В майкрософте озаботились окружением в котором модельке было бы удобнее править проекты с кодом с использованием pdb (питон дебагер)<br/><br/>Т.е. чтобы не просто моделька могла запускать код и смотреть на трейсы ошибок но и вызывать pdb, ставить по коду брейкпоинты и детальнее видеть как там исполнение происходит<br/>...
other
2
AGI_and_RL
[ 1036, 1037 ]
2
2025-04-15T09:40:41Z
2025-04-15T09:52:06Z
Я буду кидать очередной имплемент GRPO когда вы меньше всего этого ждете.<br/>Я и сам не ждал<br/><br/><a href="https://github.com/policy-gradient/GRPO-Zero" rel="noopener" target="_blank">https://github.com/policy-gradient/GRPO-Zero</a> шьто-то пусто в коментах. Пригоршня гпт 4.1 вас не удивила?<br/><br/>Жду локальну...
other
2
AGI_and_RL
[ 1038 ]
1
2025-04-15T11:09:44Z
2025-04-15T11:09:44Z
Не кажется ли вам, что инновации ОпенАИ как бы <b>подсократились</b> в последнее время? <br/>Ресерч их как будто <b>сжался</b>
other
2
AGI_and_RL
[ 1039 ]
1
2025-04-15T12:47:22Z
2025-04-15T12:47:22Z
Ребята из OpenPipe выкладывают Agent Reinforcement Trainer (ART)<br/><br/><a href="https://github.com/OpenPipe/ART" rel="noopener" target="_blank">https://github.com/OpenPipe/ART</a><br/>Пишут что есть multi-turn. При этом базируются на анслот + trl.<br/><br/>По сути делают то же, что и мы в <a href="https://github.com...
other
2
AGI_and_RL
[ 1040 ]
1
2025-04-16T07:08:31Z
2025-04-16T07:08:31Z
Один раз исследователи не написали обзорку по агентам, больше их никто не видел<br/><br/>Эти написали. И в основном они из salesforce (они иногда очень прикольные вещи делают <tg-emoji emoji-id="5238165358564613794"><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09FA5B0.png')"><b>🥰</b></i><...
tldr
1
AGI_and_RL
[ 1041, 1042 ]
2
2025-04-16T07:53:02Z
2025-04-16T08:07:39Z
<div class="tgme_widget_message_text js-message_reply_text" dir="auto">https://ai-2027.com/ Кто-нибудь читал? Стоит вообще открывать?</div> так смешнее
other
2
AGI_and_RL
[ 1043, 1044 ]
2
2025-04-16T17:02:16Z
2025-04-16T17:04:07Z
<b>Genius: Когда языковая модель начинает учиться сама</b><br/><br/><i>Представьте: вы не даёте модели ни правильных ответов, ни правил, ни внешнего оценщика. Просто — 25 000 обычных вопросов. А она сама <b>начинает думать лучше</b>.</i><br/><br/>Это не фантастика. Это <b>Genius</b> — новая самообучающаяся система, кот...
other
1
AGI_and_RL
[ 1046 ]
1
2025-04-17T10:26:47Z
2025-04-17T10:26:47Z
Из реально прикольного пишут что автономный дрон из Micro Air Vehicle Lab Делфта обошел 13 других дронов, а еще обошел людей в гонках на A2RL Drone Championship в Абу Даби<br/><br/>Пару лет назад дрон уже обгонял людей, но там была предустановленная исследователями трасса. А в этой новости пишут, что трасса бала органи...
tldr
2
AGI_and_RL
[ 1047 ]
1
2025-04-17T15:21:55Z
2025-04-17T15:21:55Z
Ребятки разбираются что дают SFT vs RL для ризонинга в <b>VLMках</b><br/><br/>Сначала взяли уже существующие датасеты картиночно-текстовые и по ним нагенерировали датасеты с трейсами для SFT и RL с дипсиком R1 и GPTшкой верифицировали. Генерили 2 сета один для SFT с трейсами размышлений, второй чисто для RL. SFT сет ещ...
tldr
2
AGI_and_RL
[ 1050, 1051 ]
2
2025-04-18T13:08:27Z
2025-04-18T13:13:33Z
<div class="tgme_widget_message_text js-message_reply_text" dir="auto">Из вчерашнего релиза ОпенАИ имеем революционные и рекордные o3 и o4-mini ну и они выпустили кодового агента https://github.com/openai/codex Но я пока все же на курсоре останусь</div> Вчера еще собирался вот это к посту прикрепить (в иксе авторов...
other
2
AGI_and_RL
[ 1052 ]
1
2025-04-18T14:47:13Z
2025-04-18T14:47:13Z
Ребятки, на <a href="https://www.alphaxiv.org/" rel="noopener" target="_blank">https://www.alphaxiv.org/</a> приехал o4-mini<br/>Напоминаю, что это как соцсеть по архиву и там можно чатиться с ллмками по архивным статьям
other
2
AGI_and_RL
[ 1053 ]
1
2025-04-19T07:45:21Z
2025-04-19T07:45:21Z
Еще один крутецкий момент на <a href="https://www.alphaxiv.org/" rel="noopener" target="_blank">https://www.alphaxiv.org/</a><br/><br/>Там есть не только сами статьи, но и вкладка Blog, а на ней показывается сгенеренный по статье обзор-объяснение.<br/>Если зашли на Blog и там овервьюшки нету - нажимаете <b>Generate Ove...
other
2
AGI_and_RL
[ 1055 ]
1
2025-04-19T08:52:07Z
2025-04-19T08:52:07Z
<b>Superhuman vending bot</b><br/><br/>Агенту дают 500usd, автомат на три лотка, чаржат по 2usd в день за использование автомата, а еще 3 тулa:<br/>- посмотреть информацию о субагенте<br/>- выдать задачу субагенту<br/>- спросить что то субагента<br/><br/>Субагенты в свою очередь могут собрать деньги из автомата, положи...
tldr
2
AGI_and_RL
[ 1056 ]
1
2025-04-20T12:38:41Z
2025-04-20T12:38:41Z
Добро пожаловать в эру обучения на опыте (от Дэвида Сильвера и Ричарда Саттона) <br/><br/>Мол хорошие данные полученные от людей к концу подходят. Сейчас будем RL с LLMами накручивать, чтобы они больше могли исследовать и сами учиться.<br/><br/>*Иишки обученные на знаниях от людей знают только эти знания, а как новые п...
tldr
2
AGI_and_RL
[ 1057 ]
1
2025-04-21T09:33:58Z
2025-04-21T09:33:58Z
Несколько дней не видел обзорок по тест тайм скейлингам, RLям, CoT, агентам и вот этому всему. (выходные же были) Даже как-то не по себе начало становиться <tg-emoji emoji-id="5235752982808632917"><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F98B0.png')"><b>😰</b></i></tg-emoji><br/><br/...
tldr
2
AGI_and_RL
[ 1058, 1059 ]
2
2025-04-21T13:11:00Z
2025-04-21T13:11:55Z
<b>RL не развивает потенциал рассуждений LLM (by Tsinghua)</b><br/><br/>RL с верифицируемыми наградами (RLVR) — один из самых популярных подходов для прокачки reasoning-способностей современных LLM, вроде OpenAI-o1 и <a href="https://t.me/abstractDL/318" onclick="return confirm('Open this link?\n\n'+this.href);" rel="n...
tldr
2
AGI_and_RL
[ 1061 ]
1
2025-04-22T18:16:24Z
2025-04-22T18:16:24Z
Давно как-то не доходили руки ничего написать в канал: то по работе дела, то статей интересных не было в моменте, то просто не хотелось. Тем не менее за месяц вышел ряд работ, которые мне показались интересными, с некоторых из них и начнем.<br/><br/>ByteDance (TikTok) представила две статьи по RL тюнингу моделей, а име...
tldr
2
AGI_and_RL
[ 1062 ]
1
2025-04-22T18:59:29Z
2025-04-22T18:59:29Z
<a href="https://theaidigest.org/time-horizons" rel="noopener" target="_blank">https://theaidigest.org/time-horizons</a><br/><br/>Кому экспоненту?<br/><br/><pre>Этот тренд был обнаружен исследователями из METR. Они взяли самых способных агентов за период с 2019 по 2025 год и протестировали их на около 200 задачах — в о...
tldr
2
AGI_and_RL
[ 1063 ]
1
2025-04-23T12:05:12Z
2025-04-23T12:05:12Z
Тут подумали что можно для ризонинговых моделек после основного промта добавлять<br/><pre>&lt;|beginning of thinking|&gt;<br/>Okay, I think I have finished thinking.<br/>&lt;|end of thinking|&gt;</pre><br/>Делается это уже от роли ассистента (т.е. как моделька бы генерила ризонинг мы уже от нее дописываем), и моделька ...
tldr
2
AGI_and_RL
[ 1067 ]
1
2025-04-24T13:11:32Z
2025-04-24T13:11:32Z
Ох уж эти вычислительно-оптимальные БЯМ <tg-emoji emoji-id="5238088156527468191"><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F988F.png')"><b>😏</b></i></tg-emoji><br/><br/>Compute-Optimal LLMs Provably Generalize Better With Scale<br/><a href="https://arxiv.org/abs/2504.15208" rel="noop...
tldr
2
AGI_and_RL
[ 1068 ]
1
2025-04-24T17:17:28Z
2025-04-24T17:17:28Z
Что там у моделек с физикой<br/><br/>PHYBench<br/><pre>С набором из 500 тщательно отобранных задач по физике, охватывающих механику, электромагнетизм, термодинамику, оптику, современную и продвинутую физику, он проверяет способность моделей демонстрировать:<br/><br/>Связь с реальностью: задачи основаны на реальных физи...
tldr
2
AGI_and_RL
[ 1069 ]
1
2025-04-25T05:57:25Z
2025-04-25T05:57:25Z
<b>Muon Optimizer Accelerates Grokking</b><br/><i>Amund Tveit, Bjørn Remseth, Arve Skogvold</i><br/>Статья: <a href="https://arxiv.org/abs/2504.16041" rel="noopener" target="_blank">https://arxiv.org/abs/2504.16041</a><br/><br/>Любопытная история про гроккинг, здесь про влияние оптимизатора и конкретно про то, что пере...
tldr
2
AGI_and_RL
[ 1070 ]
1
2025-04-25T12:05:53Z
2025-04-25T12:05:53Z
science
other
2
AGI_and_RL
[ 1071 ]
1
2025-04-26T09:55:54Z
2025-04-26T09:55:54Z
Ему кайфово
other
2
AGI_and_RL
[ 1072 ]
1
2025-04-26T16:54:21Z
2025-04-26T16:54:21Z
А мем он такой придумал <tg-emoji emoji-id="5237843575319829807"><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F98A2.png')"><b>😢</b></i></tg-emoji>
other
1
AGI_and_RL
[ 1073 ]
1
2025-04-28T12:44:27Z
2025-04-28T12:44:27Z
Вот-вот выпустят Qwen 3 <tg-emoji emoji-id="5238214780753288586"><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F9891.png')"><b>😑</b></i></tg-emoji>
other
2
AGI_and_RL
[ 1074, 1076 ]
2
2025-04-28T21:04:14Z
2025-04-28T21:19:21Z
Они вылупляются<br/><br/><a href="https://huggingface.co/Qwen/Qwen3-4B-FP8" rel="noopener" target="_blank">https://huggingface.co/Qwen/Qwen3-4B-FP8</a><br/><a href="https://huggingface.co/Qwen/Qwen3-1.7B" rel="noopener" target="_blank">https://huggingface.co/Qwen/Qwen3-1.7B</a><br/><a href="https://huggingface.co/Qwen/...
other
2
AGI_and_RL
[ 1077 ]
1
2025-04-30T04:35:57Z
2025-04-30T04:35:57Z
Doom - <b>Первый ризонинг бенчмарк для русского<br/></b><br/><br/>Открылись для сообщества, статья на хабр и arxiv скоро, мелкие детали доезжают.<br/><br/>Обратите внимание что бенчмарк основан на публичных данных, вероятно все модели в бенчмарке в том или ином виде видели<br/><br/><a href="https://huggingface.co/space...
other
2
AGI_and_RL
[ 1078 ]
1
2025-05-04T08:47:19Z
2025-05-04T08:47:19Z
<div class="tgme_widget_message_text js-message_reply_text" dir="auto">Они вылупляются https://huggingface.co/Qwen/Qwen3-4B-FP8 https://huggingface.co/Qwen/Qwen3-1.7B https://huggingface.co/Qwen/Qwen3-8B https://huggingface.co/Qwen/Qwen3-30B-A3B https://huggingface.co/Qwen/Qwen3-32B-FP8 https://huggingface.co/Qwen/Qw...
other
2
AGI_and_RL
[ 1079 ]
1
2025-05-05T04:51:20Z
2025-05-05T04:51:20Z
F <a href="https://www.skype.com/ru/" rel="noopener" target="_blank">https://www.skype.com/ru/</a> <br/><br/>Пользуйтесь теперь тимс (пожалуй не буду)
other
2
AGI_and_RL
[ 1080 ]
1
2025-05-06T07:32:55Z
2025-05-06T07:32:55Z
Вышла небольшая но полезная обзорка по интерактивным видеогенерилкам.<br/>Тут ворлд моделс, симуляторы (в том числе вождения), игры, и вот это все<br/><br/>Я давно не следил за темой и понравилась вот эта карта что на скрине<br/><br/><b>A Survey of Interactive Generative Video</b><br/><a href="https://arxiv.org/abs/250...
tldr
2
AGI_and_RL
[ 1081 ]
1
2025-05-06T16:12:03Z
2025-05-06T16:12:03Z
сложил в репчик несколько o3 ресерчей на разные темы<br/><br/>AI в медицине<br/><a href="https://github.com/researchim-ai/state-of-ai/blob/main/Med_AI_research.md" rel="noopener" target="_blank">https://github.com/researchim-ai/state-of-ai/blob/main/Med_AI_research.md</a><br/><br/>ИИ киберсек<br/><a href="https://githu...
other
1
AGI_and_RL
[ 1082 ]
1
2025-05-07T04:42:36Z
2025-05-07T04:42:36Z
HF <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09FA497.png')"><b>🤗</b></i> выложили <b>nanoVLM</b> учебный проект по трену и тюну небольших VLMок<br/><br/><a href="https://github.com/huggingface/nanoVLM" rel="noopener" target="_blank">https://github.com/huggingface/nanoVLM</a>
other
2
AGI_and_RL
[ 1083 ]
1
2025-05-07T12:43:24Z
2025-05-07T12:43:24Z
AI модерацию очень сложно мерить — нужно учитывать разные виды контента, быстро отвечать, не false positiвить. Челы из <a href="https://whitecircle.ai/" rel="noopener" target="_blank">https://whitecircle.ai</a> озаботились и сделали первый бенчмарк для гардрейлов, а еще измерили на нем все самые популярные LLM, в том ч...
tldr
2
AGI_and_RL
[ 1084 ]
1
2025-05-07T16:04:35Z
2025-05-07T16:04:35Z
Ученые из Японии выложили 2 датасета для трена по которым изначально прошлись ллмками Llama-3.3-70B-Instruct<br/><br/>SwallowCode ~ 16 Billion tokens<br/><a href="https://huggingface.co/datasets/tokyotech-llm/swallow-code" rel="noopener" target="_blank">https://huggingface.co/datasets/tokyotech-llm/swallow-code</a><br/...
tldr
2
AGI_and_RL
[ 1088 ]
1
2025-05-09T13:06:31Z
2025-05-09T13:06:31Z
Полный ноль в ризонинге<br/><br/>В смысле, что для обучению ризонингу не надо заготовленных данных. Моделька сама формулирует задачи, сама пытается их решать.<br/><br/>Агент работает с кодом. Одна и та же моделька работает в двух ролях - кто ставит задачи и кто решает. И получается такой селфплей<br/><br/>Обе эти роли ...
tldr
2
AGI_and_RL
[ 1091 ]
1
2025-05-10T08:03:20Z
2025-05-10T08:03:20Z
просто double DQN проходит простой уровень из марио<br/><br/><a href="https://www.reddit.com/r/reinforcementlearning/comments/1kidoi3/mario/" rel="noopener" target="_blank">https://www.reddit.com/r/reinforcementlearning/comments/1kidoi3/mario/</a>
other
2
AGI_and_RL
[ 1092 ]
1
2025-05-10T10:18:14Z
2025-05-10T10:18:14Z
хм интересная штука<br/>двое ребят kalomaze (хз кто он, в иксе часто про всякое рльное пишет) и Will Brown (он одним из первых выложил пример с <a href="https://gist.github.com/willccbb/4676755236bb08cab5f4e54a0475d6fb" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">кодом по g...
other
2
AGI_and_RL
[ 1093 ]
1
2025-05-10T14:27:50Z
2025-05-10T14:27:50Z
<a href="https://proceedings.neurips.cc/paper_files/paper/1989/file/6c9882bbac1c7093bd25041881277658-Paper.pdf" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">Optimal Brain Damage</a> - это когда ежедневно читаешь статьи по RL LLM агентам
other
2
AGI_and_RL
[ 1094 ]
1
2025-05-10T16:14:23Z
2025-05-10T16:14:23Z
NVIDIA <a href="https://youtu.be/_2NijXqBESI?t=431" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">научила</a> гуманоидных роботов двигаться, как люди - но при нулевом дообучении после переключения из симуляции на реальный мир<br/><br/>Если коротко, десять лет обучения сжали в...
tldr
2
AGI_and_RL
[ 1095 ]
1
2025-05-11T11:10:29Z
2025-05-11T11:10:29Z
<div class="tgme_widget_message_text js-message_reply_text" dir="auto">сложил в репчик несколько o3 ресерчей на разные темы AI в медицине https://github.com/researchim-ai/state-of-ai/blob/main/Med_AI_research.md ИИ киберсек https://github.com/researchim-ai/state-of-ai/blob/main/AI_cybersecurity_research.md По рагу h...
other
2
AGI_and_RL
[ 1096 ]
1
2025-05-14T14:51:28Z
2025-05-14T14:51:28Z
<a href="https://swe-rebench.com/" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">SWE-rebench: A Continuously Evolving and Decontaminated Benchmark for Software Engineering LLMs</a><br/><br/>Сегодня стандартом для оценки SWE агентов является <a href="https://www.swebench.com/"...
tldr
2
AGI_and_RL
[ 1097 ]
1
2025-05-16T13:40:20Z
2025-05-16T13:40:20Z
Там потестили модельки на написание солверов для уравнений в частных производных. Дали на тест 5 типов уравнений<br/><br/><blockquote>Уравнение адвекции: Моделируют явления переноса без диффузии<br/>Уравнение Бюргерса: Фундаментальное нелинейное УЧП, используемое в механике жидкости<br/>Уравнение реакции-диффузии: Моде...
tldr
2
AGI_and_RL
[ 1101 ]
1
2025-05-16T16:12:39Z
2025-05-16T16:12:39Z
Привет! А мы тут не отстаем от Дипмайнда: нашли новый алгоритм умножения X*X^t.<br/><br/>Для 4x4 матриц получили алгоритм с 34 умножениями (у SotA было 38).<br/><br/>Для n x n при больших n на 5% быстрее.<br/><br/><a href="https://arxiv.org/abs/2505.09814" rel="noopener" target="_blank">https://arxiv.org/abs/2505.09814...
tldr
2
AGI_and_RL
[ 1103 ]
1
2025-05-19T12:44:20Z
2025-05-19T12:44:20Z
Обзор по thinkingу от Лилиан Венг<br/><br/>Why We Think<br/><a href="https://lilianweng.github.io/posts/2025-05-01-thinking/" rel="noopener" target="_blank">https://lilianweng.github.io/posts/2025-05-01-thinking/</a>
tldr
2
AGI_and_RL
[ 1104 ]
1
2025-05-19T18:14:50Z
2025-05-19T18:14:50Z
у любителей ллмного RLя сегодня снова приподнятое настроение<br/><br/>там потюнили квен coder 7б с PPO, чтобы он оптимизировал асемблерный код. Ну и получили ускорение в среднем x1.47 (дефолтный 7б кодер x1.1 выдавал), и % компиляции с 79% до 96% поднял<br/>ну и круче других протесченых ллмок получилось <tg-emoji emoji...
tldr
2
AGI_and_RL
[ 1105, 1106 ]
2
2025-05-20T06:03:18Z
2025-05-20T06:09:58Z
<div class="tgme_widget_message_text js-message_reply_text" dir="auto">Вышла вторая версия овервьюшки по RL (современному), теперь 177 страничек (было 144) Reinforcement Learning: A Comprehensive Overview https://arxiv.org/abs/2412.05265v2</div> Кстати, вообще считаю что вайбкодинг это очень круто если понимаешь что ...
other
2
AGI_and_RL
[ 1107 ]
1
2025-05-20T17:48:54Z
2025-05-20T17:48:54Z
Ребят, если что интересного увидите в презухе гугла, черкните в коменты плиз<br/>И надо будет посчитать количество упоминаний ИИ агентов
other
2
AGI_and_RL
[ 1108 ]
1
2025-05-21T14:49:16Z
2025-05-21T14:49:16Z
<a href="https://huggingface.co/mistralai/Devstral-Small-2505" rel="noopener" target="_blank">https://huggingface.co/mistralai/Devstral-Small-2505</a><br/><br/>Новая кодовая агентная открытая моделька от мистраля. 24B, 128к контекст<br/>В сыром виде в 3090/4090 не влезет, надо подождать awq<br/><br/>lm-studio уже сдела...
other
2
AGI_and_RL
[ 1110 ]
1
2025-05-23T18:36:56Z
2025-05-23T18:36:56Z
ллмный RL апдейтит лишь 5%-30% весов<br/>и эти веса образуют подсеть, которую можно тюнить рлем саму по себе (заморозив остальные веса) и после тюна она будет почти такой же как если тюнить всю модель<br/><br/>Причем<br/>- Каждый слой и каждая матрица (Q, K, V, FFN) получает одинаково разреженные, но при этом почти пол...
tldr
2