channel
string
post_ids
list
n_posts
int64
dt_utc_first
timestamp[ns, tz=UTC]
dt_utc_last
timestamp[ns, tz=UTC]
html_unwrapped
string
label
string
priority_max
int64
AGI_and_RL
[ 779, 783 ]
2
2024-06-10T17:33:04Z
2024-06-10T17:56:48Z
Тут статья вышла про то, что мультиагенты на базе LLM могут эксплуатировать Zero-Day уязвимости (когда у агента нет описания уязвимости)<br/><br/>Исследователи назвали свой метод <b>HPTSA</b>.<b><br/><br/></b>Нужны 3 компонента: <b>планировщик</b>, <b>менеджер</b> для агентов и <b>специализированные</b> под конкретные...
other
2
AGI_and_RL
[ 784 ]
1
2024-06-12T20:37:43Z
2024-06-12T20:37:43Z
Ребята из <b>DeepMind</b> делают нам токамак дома (точнее симулятор)<br/><br/>Они давно уже занимаются задачей контроля токамака и даже с RLем. А сейчас вот опенсурсят такую разработку. Ну круто!<br/><br/><blockquote>TORAX<b> is a differentiable tokamak core transport simulator</b> aimed for fast and accurate forward m...
tldr
2
AGI_and_RL
[ 786 ]
1
2024-06-13T08:12:35Z
2024-06-13T08:12:35Z
<i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F9A80.png')"><b>🚀</b></i> <a href="https://t.me/SBERLOGASCI" target="_blank">@SBERLOGASCI</a> webinar on data science:<br/><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F91A8E2808DF09F94AC.png')"><b>👨‍🔬</b></i...
other
2
AGI_and_RL
[ 787 ]
1
2024-06-14T17:13:39Z
2024-06-14T17:13:39Z
Опять что-то дипмаинды наресерчили (им платят за это?)<br/><br/>Хотят улучшать трансформеры на графовых задачках описанных текстом и сделали <b>TransNAR</b> архитектуру, которая вроде как хороша in out-of-distribution reasoning.<br/>Только нам нужно иметь текстовую задачку на вход трансформера и граф на вход NAR.<br/><...
tldr
2
AGI_and_RL
[ 792 ]
1
2024-06-18T20:13:44Z
2024-06-18T20:13:44Z
Как же плотно Дженсен Хуанг двигается :) В Нвидии хорошо поняли какие матрицы надо перемножать...<br/><br/>Это насколько люди хотят тележку закатить, что им столько видеокарт понадобилось?
other
2
AGI_and_RL
[ 794, 795 ]
2
2024-06-20T07:48:50Z
2024-06-20T07:48:50Z
Прикольно Implementing General Relativity: What's inside a black hole? <a href="https://20k.github.io/c++/2024/06/19/tetrads.html" rel="noopener" target="_blank">https://20k.github.io/c++/2024/06/19/tetrads.html</a>
other
2
AGI_and_RL
[ 796 ]
1
2024-06-20T08:35:32Z
2024-06-20T08:35:32Z
<i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F9A80.png')"><b>🚀</b></i> <a href="https://t.me/SBERLOGASCI" target="_blank">@SBERLOGASCI</a> webinar on data science:<br/><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F91A8E2808DF09F94AC.png')"><b>👨‍🔬</b></i...
other
2
AGI_and_RL
[ 797 ]
1
2024-06-20T10:45:13Z
2024-06-20T10:45:13Z
Прямо сейчас происходит хайп MCTS (теперь с ллмами)<br/>В RLе у нас MCTS используется в куче *Zero алгоритмов и там он на некоторых играх показывает оверхуман (EfficientZero насколько я понимаю самый работоспособный и быстрее всех учится из зерошек), ну надо и к ллмам его тогда добавить. Они итак "умные", мб это их еще...
tldr
2
AGI_and_RL
[ 800 ]
1
2024-06-21T10:44:57Z
2024-06-21T10:44:57Z
Еще интересный подход по созданию агентов (на базе Vision language модели) с RLем которые могут пользоваться Android телефоном через GUI<br/><br/>Вначале трейнят offline RL на данных, потом offline-to-online где агент уже сам доучивается в среде. Создали распараллеленный симулятор который одновременно может запускать 6...
tldr
2
AGI_and_RL
[ 807 ]
1
2024-06-22T08:39:28Z
2024-06-22T08:39:28Z
Вспоминаем что Андрей Карпати делает llm.c<br/><br/><a href="https://github.com/karpathy/llm.c" rel="noopener" target="_blank">https://github.com/karpathy/llm.c</a><br/><br/>Там он с 0 gptшки реализует на питоне, на плюсах и на CUDA (который я кстати рекомендую всем изучать, кто интересуется большими моделями да и вооб...
other
2
AGI_and_RL
[ 808 ]
1
2024-06-23T15:12:07Z
2024-06-23T15:12:07Z
Stanford воплотил в жизнь фильм Живая сталь! <br/><br/>Зацените, что там ребята намутили. Подгрузили датасет из 40 часов кожаной мышечной даты, натренировали роботов на <a href="https://github.com/leggedrobotics/legged_gym" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">legged...
tldr
1
AGI_and_RL
[ 811 ]
1
2024-07-08T14:05:52Z
2024-07-08T14:05:52Z
<a href="https://www.youtube.com/watch?v=7YYwERuy-w4" rel="noopener" target="_blank">https://www.youtube.com/watch?v=7YYwERuy-w4</a><br/><br/>Оу, наткнулся на реп с окружением на Unity по робофайту с нашими любимыми робособаками и стреляющим павуком.<br/>Ну это просто прикольно<br/><br/><a href="https://github.com/mba...
other
2
AGI_and_RL
[ 813, 814 ]
2
2024-07-08T14:35:55Z
2024-07-08T14:36:35Z
Привет! <br/>Мы в <s>лабараторию ебаного ресерча</s> <a href="https://huggingface.co/Vikhrmodels" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">Vikhr models</a> открываем летние стажировки<br/>Что по задачам:<br/><br/>- Мержинг, стакинг, замеринг, эволюционка поверх LLM cтаки...
other
2
AGI_and_RL
[ 815 ]
1
2024-07-09T09:12:41Z
2024-07-09T09:12:41Z
Он выпил кофе и уже бежит на работу, чтобы продуктивно потрудиться
other
2
AGI_and_RL
[ 816 ]
1
2024-07-09T16:39:02Z
2024-07-09T16:39:02Z
сохраняем листик с симуляторами и библиотекам по роботам (есть и другие но поменьше и уже сильно протухшие)<br/> <br/><a href="https://github.com/jslee02/awesome-robotics-libraries" rel="noopener" target="_blank">https://github.com/jslee02/awesome-robotics-libraries</a>
other
2
AGI_and_RL
[ 817 ]
1
2024-07-10T14:55:21Z
2024-07-10T14:55:21Z
<b>Набор инструкций H100 и 4090 теперь задокументирован</b> <tg-emoji emoji-id="5197215164679593605"><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F918F.png')"><b>👏</b></i></tg-emoji><br/><br/>Умелец смог при помощи фаззера задокументировать набор инструкций актуальных карт Nvidia. Сама ...
other
2
AGI_and_RL
[ 818 ]
1
2024-07-10T17:34:38Z
2024-07-10T17:34:38Z
Маленькая тулза для разметки датасетиков. (сам не пробовал, только что наткнулся)<br/>По сути опенсурсной ллмкой размечает немного данных, тренит нам классификатор и если качество не очень то будет данных досыпать.<br/><br/><blockquote>1. LLM generates classification data from a subset of provided text<br/>2. A classif...
other
2
AGI_and_RL
[ 819, 820 ]
2
2024-07-11T18:06:50Z
2024-07-11T18:34:37Z
Выкатили <b>Flash Attention 3</b>, он оптимизирован под поколение Hopper (H100, H800)<br/><br/>Почитать<br/><a href="https://tridao.me/publications/flash3/flash3.pdf" rel="noopener" target="_blank">https://tridao.me/publications/flash3/flash3.pdf</a><br/><a href="https://tridao.me/blog/2024/flash3/" rel="noopener" targ...
other
2
AGI_and_RL
[ 821 ]
1
2024-07-12T06:23:20Z
2024-07-12T06:23:20Z
На работу идет (счастлив)
other
2
AGI_and_RL
[ 822 ]
1
2024-07-15T12:40:37Z
2024-07-15T12:40:37Z
Прямо сейчас идет контест <b>LLM4HWDesign</b>, с целью компиляции сообществом качественного Verilog (язык описания цифровых схем, можно проектировать некоторый хардвар) датасета для LLMок для дизайна аппаратного обеспечения. Спонсирует не самая дорогая компания в мире (<b>NVidia</b>, прямо сейчас на 3 месте).<br/>Длитс...
other
2
AGI_and_RL
[ 823 ]
1
2024-07-16T12:20:35Z
2024-07-16T12:20:35Z
Небольшое введение в область + обзор по работам в направлении применения геометрических, топологических и алгебраических структур в MLе. Как в данных так и в самих модельках. (как применяются, где возникают и тд)<br/><br/>Красивое + интересное<b><br/><br/>Beyond Euclid: An Illustrated Guide to Modern Machine Learning w...
tldr
2
AGI_and_RL
[ 826 ]
1
2024-07-18T06:03:06Z
2024-07-18T06:03:06Z
Мы ищем стажеров!<br/><br/><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F91A9E2808DF09F8CBE.png')"><b>👩‍🌾</b></i> <code>shorties</code> — это персональная программа, в которой мы выращиваем таланты до полноценных Research Engineer’ов или Research Scientist’ов в зависимости от ваших инт...
other
2
AGI_and_RL
[ 828 ]
1
2024-07-18T18:16:31Z
2024-07-18T18:16:31Z
Есть играющие в Path of Exile? В стиме такая игруха есть, но я как-то не дошел. <br/>Но дошел Денни Бритз. У него занятный гитхаб:<br/><a href="https://github.com/dennybritz" rel="noopener" target="_blank">https://github.com/dennybritz</a><br/>Много разного имлементирует и с 0 пишет (кучи разных нейроночек, RL алгоритм...
other
1
AGI_and_RL
[ 829 ]
1
2024-07-19T17:45:49Z
2024-07-19T17:45:49Z
Это симулятор обхода поликлиники? <tg-emoji emoji-id="5242427215957729698"><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09FA4A8.png')"><b>🤨</b></i></tg-emoji><br/><br/>Много работ есть по генерации сцены. А в Нвидии делают человечка который мог бы по 3д сцене перемещаться.<br/><br/>На вхо...
tldr
2
AGI_and_RL
[ 830 ]
1
2024-07-20T06:56:37Z
2024-07-20T06:56:37Z
Так ребятки, принес вам папочку с классными<br/><a href="https://t.me/addlist/C_RSYpbW5mIyMjVi" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">авторскими ИИ каналами</a> <br/>(я-то на многие подписан, думаю и вам понравится)<br/><br/>А там например есть канал Александра Голубе...
other
2
AGI_and_RL
[ 831 ]
1
2024-07-24T17:52:32Z
2024-07-24T17:52:32Z
Наткнулся на проект по созданию файтинга с поединками роботов управляемых нейронками. Называется <b>Final Automata</b>.<br/><br/><blockquote>In 2050, robot technology redefines conflict. Violence among humans is history, and AI-driven robots are the new weapons to settle scores between factions and nations. FINAL AUTOM...
other
2
AGI_and_RL
[ 832 ]
1
2024-07-25T16:02:00Z
2024-07-25T16:02:00Z
Ммм, кайфологи из <b>DeepMind</b> рассказывают про AlphaGeometry2 + AlphaProof<br/><br/><a href="https://deepmind.google/discover/blog/ai-solves-imo-problems-at-silver-medal-level/" rel="noopener" target="_blank">https://deepmind.google/discover/blog/ai-solves-imo-problems-at-silver-medal-level/</a><br/><br/><b>AlphaPr...
tldr
2
AGI_and_RL
[ 834 ]
1
2024-07-26T06:30:36Z
2024-07-26T06:30:36Z
<i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F9A80.png')"><b>🚀</b></i> <a href="https://t.me/SBERLOGASCI" target="_blank">@SBERLOGASCI</a> webinar on data science:<br/><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F91A8E2808DF09F94AC.png')"><b>👨‍🔬</b></i...
other
2
AGI_and_RL
[ 835 ]
1
2024-07-27T10:55:37Z
2024-07-27T10:55:37Z
<b>Рассказываем о нашей работе принятой на ICML 2024. В деталях.</b><br/><br/><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F8CBB.png')"><b>🌻</b></i><b>Контекст</b><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F8CBB.png')"><b>🌻</b></i><br/><br/>In-Context ...
other
1
AGI_and_RL
[ 836 ]
1
2024-08-05T12:34:13Z
2024-08-05T12:34:13Z
Роботяге сказали что зарплаты сегодня не будет
other
2
AGI_and_RL
[ 837 ]
1
2024-08-08T19:12:35Z
2024-08-08T19:12:35Z
опа, нам сделали выбиралку <s>покемонов</s> model-free алгоритмов обучения с подкреплением + ссылочки на статейки + ревьюшку<br/><br/>можно фильтрануть по пространству действий, по длине траекторий, есть ли экспертные данные и тд.<br/><br/>Теперь очень удобно выбирать между DQN и PPO <tg-emoji emoji-id="523821478075328...
tldr
2
AGI_and_RL
[ 838 ]
1
2024-08-11T14:39:43Z
2024-08-11T14:39:43Z
Тут 4 свежие книги из серии <b>The Art of High Performance Computing</b> автора <b>Victor Eijkhout</b><br/><br/><a href="https://theartofhpc.com/" rel="noopener" target="_blank">https://theartofhpc.com/</a><br/><br/>Volume 1: The Science of Computing<br/><br/>Volume 2: Parallel Programming in MPI and OpenMP<br/><br/>Vo...
other
2
AGI_and_RL
[ 839 ]
1
2024-08-12T11:38:47Z
2024-08-12T11:38:47Z
Кстати, прямо сейчас (9-12 августа) проходит первая конфа по обучению с подкреплением <b>RLC</b> <a href="https://rl-conference.cc/" rel="noopener" target="_blank">https://rl-conference.cc/</a><br/><br/>А еще выпускают журнал <b>Reinforcement Learning Journal (RLJ)</b> <a href="https://rlj.cs.umass.edu/" rel="noopener"...
other
2
AGI_and_RL
[ 840 ]
1
2024-08-13T17:41:31Z
2024-08-13T17:41:31Z
Про нейронки которые обгоняют людей в Gran Turismo 7 в гонках на время <tg-emoji emoji-id="5240037474679398914"><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F9A98.png')"><b>🚘</b></i></tg-emoji><br/><br/>На конфе <b>RLC</b> (вчера писал) была статья от сонибоев (<b>Sony AI</b>) которые п...
tldr
2
AGI_and_RL
[ 843 ]
1
2024-08-23T20:37:12Z
2024-08-23T20:37:12Z
Наткнулся на прикольный проектик c движком 2д частичек для симуляции жидкости и софтбоди на cuda с прицелом на "симуляцию искусственной жизни".<br/><br/><b>Artificial LIfe ENvironment (ALIEN)</b><br/>(меня-то environment тригернул <tg-emoji emoji-id="5235736679112778509"><i class="emoji" style="background-image:url('//...
other
2
AGI_and_RL
[ 844 ]
1
2024-08-24T12:25:53Z
2024-08-24T12:25:53Z
Ребята сделали крутую обзорку механизмов знаний в ллмковых.<br/>Обязательно сохраняем!<br/><br/>Я вообще очень люблю обзорки, ведь муторно все время следить за самыми новыми статьями в какой-то области. Тут все в одном<br/><br/>Начинают с определения знаний в ллмках, потом архитектура нашего любимого трансформера, мето...
tldr
2
AGI_and_RL
[ 845 ]
1
2024-08-25T12:30:54Z
2024-08-25T12:30:54Z
Челы из Беркли продолжают накручивать ллмки на фанколлы.<br/><br/>Сделали соответствующий лидерборд <a href="https://gorilla.cs.berkeley.edu/leaderboard.html" rel="noopener" target="_blank">https://gorilla.cs.berkeley.edu/leaderboard.html</a><br/><br/>+ дропнули новую версию ллмки для фанколов. Пока не тестил, интересн...
tldr
2
AGI_and_RL
[ 846 ]
1
2024-08-25T19:54:14Z
2024-08-25T19:54:14Z
Из интересного:<br/>Ассоциация математического ресерча (на самом деле хз кто это такие, откуда-то из США) учредила премию по математике искусственного интеллекта.<br/>50к за математику для ии | ии для математики<br/><br/><a href="https://amathr.org/prizes/aiprize/" rel="noopener" target="_blank">https://amathr.org/priz...
other
2
AGI_and_RL
[ 847 ]
1
2024-08-27T08:15:17Z
2024-08-27T08:15:17Z
Нейроночки теряют пластичность при continual learning (постепенном дообучении на новых данных, когда старые данные уже недоступны).<br/><br/>Потеря пластичности - потеря способности учиться на новых данных. А мы же хотим делать всяких автономных агентов, которые будут и новые вещи встречать (а значит и на них научиться...
tldr
2
AGI_and_RL
[ 850 ]
1
2024-08-28T15:02:15Z
2024-08-28T15:02:15Z
Ммм, там ребята из гугла дум запихивают в стейбл дифужн 1.4 (назвали <b>GameNGen</b>) <br/><br/>В чем смысл? Ну получить норм нейронковый симулятор дума + идеи ворлд моделс <tg-emoji emoji-id="5235736679112778509"><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09FA5B4.png')"><b>🥴</b></i></t...
tldr
2
AGI_and_RL
[ 853 ]
1
2024-08-29T11:33:01Z
2024-08-29T11:33:01Z
Так ребзя я тут подумол. Много разговоров о том, что RL не работает. Если у кого были успешные кейсы с рлем то напишите их сюда в комменты, где он у вас заработал и что полезного сделал.<br/>Можно и кейсы где не заработал. Что и где пробовали и какие результаты получились.
other
2
AGI_and_RL
[ 855 ]
1
2024-08-31T10:43:25Z
2024-08-31T10:43:25Z
<div class="tgme_widget_message_text js-message_reply_text" dir="auto">В отличие от других гуманоидных роботов Neo может безопасно находиться радом с людьми</div>
other
2
AGI_and_RL
[ 856 ]
1
2024-09-03T10:53:52Z
2024-09-03T10:53:52Z
Приходят как-то на синк разработчик, тестировщик и time.sleep(1), а он им и говорит: ребята, мы что, в анекдоте?<br/><br/><tg-emoji emoji-id="5271647098243134225"><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/E29EA1.png')"><b>➡️</b></i></tg-emoji> Ну почти: они в подводке к статье про то, <a...
other
2
AGI_and_RL
[ 857 ]
1
2024-09-03T12:34:36Z
2024-09-03T12:34:36Z
Опа. Книжечка <b>Understanding Deep Learning</b> автора <b>Simon J.D. Prince<br/>Обновилась 28 августа.</b><br/><br/>Бесплатно, скачиваем здесь и все-все читаем<br/><a href="https://udlbook.github.io/udlbook/" rel="noopener" target="_blank">https://udlbook.github.io/udlbook/</a><br/><br/>Introduction<br/>Supervised lea...
other
2
AGI_and_RL
[ 858 ]
1
2024-09-06T14:32:49Z
2024-09-06T14:32:49Z
<tg-emoji emoji-id="5238214780753288586"><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F9891.png')"><b>😑</b></i></tg-emoji>
other
2
AGI_and_RL
[ 859, 860 ]
2
2024-09-11T16:48:03Z
2024-09-11T16:48:49Z
В последние пару лет почти каждый раз, когда речь заходит о больших языковых моделях, разговор сводится к противоборству двух лагерей: одни считают, что модели «понимают», умеют «размышлять» и выводить новую информацию; другие смеются над ними, и сравнивают модели со статистическими попугаями, которые просто выкрикиваю...
other
2
AGI_and_RL
[ 861 ]
1
2024-09-12T09:37:38Z
2024-09-12T09:37:38Z
Приятный тутор по диффузионкам для тех кто хочет глубже понять (как сам автор пишет - больше для ресерчеров)<br/><br/><b>Tutorial on Diffusion Models for Imaging and Vision</b><br/><a href="https://arxiv.org/abs/2403.18103" rel="noopener" target="_blank">https://arxiv.org/abs/2403.18103</a>
tldr
2
AGI_and_RL
[ 862 ]
1
2024-09-17T08:26:41Z
2024-09-17T08:26:41Z
Мы наконец <b>открыли набор на осенний семестр </b><a href="https://dls.samcs.ru/" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">Deep Learning School</a><a href="https://dls.samcs.ru/" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank"><...
other
2
AGI_and_RL
[ 863 ]
1
2024-09-17T16:31:31Z
2024-09-17T16:31:31Z
Раз вышел o1 то должен быть и листик со статьями которые могут иметь к нему отношение (ну и в целом на ллмный ризонинг направленный)<br/><br/><a href="https://github.com/hijkzzz/Awesome-LLM-Strawberry" rel="noopener" target="_blank">https://github.com/hijkzzz/Awesome-LLM-Strawberry</a>
other
2
AGI_and_RL
[ 864 ]
1
2024-09-19T09:33:12Z
2024-09-19T09:33:12Z
<i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F9A80.png')"><b>🚀</b></i> <a href="https://t.me/SBERLOGASCI" target="_blank">@SBERLOGASCI</a> webinar on mathematics and data science:<br/><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F91A8E2808DF09F94AC.png')"...
tldr
2
AGI_and_RL
[ 865 ]
1
2024-09-20T14:54:39Z
2024-09-20T14:54:39Z
Вы не ждали, да и мы тоже. Мы <a href="https://dsworks.ru/champ/multiagent-ai#overview" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">организуем</a> соревнование по Multi-Agent Reinforcement Learning в рамках AIJ. <b><br/></b><br/>В прошлом году на NeurIPS была классная сорев...
other
2
AGI_and_RL
[ 868 ]
1
2024-09-21T16:23:57Z
2024-09-21T16:23:57Z
<tg-emoji emoji-id="5424972470023104089"><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F94A5.png')"><b>🔥</b></i></tg-emoji> <b>Новые модели Vikhr: Приближаемся к локальной gpt-4o-mini, собственный метод алайнмента и Grounded RAG</b><br/><br/>Мы выпускаем в релиз свои лучшие модели и тулк...
tldr
2
AGI_and_RL
[ 869 ]
1
2024-09-23T13:19:03Z
2024-09-23T13:19:03Z
<b>Mcts-lib</b><br/><br/>Мы релизнули либу для улучшения генераций за счет MCTS(+10 пунктов по ru General Arena)!<br/><br/><br/><b>Как это работает?</b><br/><br/>1. (Инициализация): Представьте, что вы начинаете с первой версии ответа, который модель предлагает. Чтобы не попасть в ловушку одного-единственного мнения с ...
tldr
2
AGI_and_RL
[ 870 ]
1
2024-10-03T14:44:34Z
2024-10-03T14:44:34Z
<a href="https://developers.googleblog.com/en/advancing-multilingual-ai-with-gemma-2-and-a-150k-challenge/" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">Запустили</a> Gemma 2 зафайнтьюненную на японский. Веса – <a href="https://huggingface.co/collections/google/gemma-2-jpn-r...
tldr
2
AGI_and_RL
[ 871 ]
1
2024-10-18T16:34:45Z
2024-10-18T16:34:45Z
Блин, чел мощно отлупил всех RL максималистов. RL не будет работать, ок? Усвоили<br/><br/>(Дипмаинду с ОпенАИ лучше закрыть свои ресерчи. Да и вообще закрыться полностью.)<br/><br/><a href="https://www.argmin.net/p/cool-kids-keep" rel="noopener" target="_blank">https://www.argmin.net/p/cool-kids-keep</a>
other
1
AGI_and_RL
[ 872, 873 ]
2
2024-10-20T13:24:47Z
2024-10-20T13:25:55Z
В ByteDance стажёр обиделся и два месяца <a href="https://github.com/JusticeFighterDance/JusticeFighter110" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">саботировал</a> тренировочные раны соседней команды, причём весьма изощрёнными методами:<br/><br/><i class="emoji" style="...
other
2
AGI_and_RL
[ 874 ]
1
2024-10-20T17:37:14Z
2024-10-20T17:37:14Z
чот по интернетику пишут что вот мол уже засветилась 5090 (хотелось бы, но 32гб врама все равно мало)<br/><br/>вроде размером с 4090.<br/><br/><a href="https://videocardz.com/newz/geforce-rtx-5090-graphics-card-featured-in-a-factory-trial-video" rel="noopener" target="_blank">https://videocardz.com/newz/geforce-rtx-509...
other
2
AGI_and_RL
[ 875 ]
1
2024-10-22T20:54:04Z
2024-10-22T20:54:04Z
ммм, ребята попытались скомпилить все в одно по тюнингу ллмковых со свежими подходами<br/>Норм обзорчик собрали, пусть будет<br/><br/>Stage 1: Dataset Preparation<br/>Stage 2: Model Initialisation<br/>Stage 3: Training Environment Setup<br/>Stage 4: Partial or Full Fine-Tuning<br/>Stage 5: Evaluation and Validation<br/...
tldr
2
AGI_and_RL
[ 877 ]
1
2024-10-28T18:22:44Z
2024-10-28T18:22:44Z
<tg-emoji emoji-id="5195100606250889609"><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F8E86.png')"><b>🎆</b></i></tg-emoji> <b>Небольшая лекция об Alignment и как мы его готовим</b><br/><br/>Это слайды с текстом, пока устно ее я рассказывал только внутри команды Vikhr.<b><br/></b><br/><b...
other
1
AGI_and_RL
[ 878 ]
1
2024-10-30T10:48:42Z
2024-10-30T10:48:42Z
АЛЛО МЫ ИЩЕМ ГОЛОСА<br/><br/><a href="https://llmarena.ru/" rel="noopener" target="_blank">https://llmarena.ru/</a> заходите в анонимно и бежим размечать голосами свежее поколение ллм, я с утра разметил несколько десятков сэмплов и вам советую!
other
2
AGI_and_RL
[ 879 ]
1
2024-12-17T08:00:38Z
2024-12-17T08:00:38Z
ребята из HF <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09FA497.png')"><b>🤗</b></i> написали нам<br/><a href="https://huggingface.co/spaces/HuggingFaceH4/blogpost-scaling-test-time-compute" rel="noopener" target="_blank">https://huggingface.co/spaces/HuggingFaceH4/blogpost-scaling-test-...
tldr
2
AGI_and_RL
[ 880 ]
1
2024-12-17T14:09:48Z
2024-12-17T14:09:48Z
Интересный пост про написание llm инференса на C++/cuda без доп библиотек (который должен получиться даже быстрее llama.cpp, автор пишет)<br/><br/><b>Fast LLM Inference From Scratch<br/>Pushing single-GPU inference throughput to the edge without libraries</b><br/><a href="https://andrewkchan.dev/posts/yalm.html" rel="n...
tldr
2
AGI_and_RL
[ 881 ]
1
2024-12-19T08:38:36Z
2024-12-19T08:38:36Z
В последне время выходило много работ по воспроизведению o1 - как rl прикручивать, поиск применять и прочее.<br/>А тут вышла обзорка по этим подходам, причем много внимания уделено стороне rlя<br/><br/><b>Scaling of Search and Learning: A Roadmap to Reproduce o1 from Reinforcement Learning Perspective</b><br/><a href="...
tldr
2
AGI_and_RL
[ 882 ]
1
2024-12-19T09:50:40Z
2024-12-19T09:50:40Z
Вышел движок для симуляций/робототехники <b>Genesis</b>. Поверх физического движка будет генеративный фреймворк который будет генерить 3D сцены, движение камеры, людей/животных/роботов, анимации лица и видео<b> по тексту</b>. <br/><br/><b>Физический движок</b> должен быть очень быстрыми и реалистичным, его <b>заопенсур...
tldr
2
AGI_and_RL
[ 884 ]
1
2024-12-20T18:32:03Z
2024-12-20T18:32:03Z
Кто не в курсе тут последние 12 рабочих дней проходили показы от OpenAI всяких штук.<br/>Сегодня последний день и они показывают ранние оценки на популярных бенчах новой фронтир модели <b>o3</b>, которую пока не выпускают (только рассказывают про нее)<br/>Будут и o3-mini.<br/>Модельки пока еще тестятся на безопасность....
tldr
2
AGI_and_RL
[ 887 ]
1
2024-12-20T19:15:57Z
2024-12-20T19:15:57Z
Забавные моменты:<br/>* получить 91% на 400 примерах public arc-agi стоило x172 больше ресурсов чем на 82%. Похоже больше ляма баксов (6677*172 = 1148444) если в деньгах.<br/>* авторы ARC-AGI все же не думают что это AGI.<br/><br/><tg-emoji emoji-id="5238088156527468191"><i class="emoji" style="background-image:url('//...
other
2
AGI_and_RL
[ 889 ]
1
2024-12-23T19:45:21Z
2024-12-23T19:45:21Z
Тут 5 месяцев бенчмаркали и тестили AMD MI300X и сравнивали с H100/H200 и показали первую часть анализов.<br/><br/><b>MI300X vs H100 vs H200 Benchmark Part 1: Training – CUDA Moat Still Alive</b><br/><a href="https://semianalysis.com/2024/12/22/mi300x-vs-h100-vs-h200-benchmark-part-1-training/" rel="noopener" target="_...
tldr
2
AGI_and_RL
[ 890 ]
1
2024-12-25T14:35:42Z
2024-12-25T14:35:42Z
Ребята из Саканы двинулись в сторону применения VLMок к изучению искусственной жизни.<br/>Так или иначе это связано с симуляциями и симуляторами.<br/>У них получилась Automated Search for Artificial Life (ASAL). <br/><br/>Определяем набор искомых симуляций, начальное состояние, правила перехода между состояниями и прим...
tldr
2
AGI_and_RL
[ 891 ]
1
2024-12-26T13:55:37Z
2024-12-26T13:55:37Z
Кстати, вышла новая обзорка по RLю, 144 странички, но на инглише (в конце даже немножко RL + LLMs налили)<br/><br/><b>Reinforcement Learning: An Overview</b><br/><a href="https://arxiv.org/abs/2412.05265" rel="noopener" target="_blank">https://arxiv.org/abs/2412.05265</a><br/><br/><br/>Не забываем что по rlю есть очень...
other
2
AGI_and_RL
[ 892 ]
1
2024-12-27T12:35:59Z
2024-12-27T12:35:59Z
Кстати, в России доступен ЧатМистраль <a href="https://chat.mistral.ai/" rel="noopener" target="_blank">https://chat.mistral.ai/</a> - как ЧатГПТ только от ребят которые еще модельки крутые выкладывают <a href="https://huggingface.co/mistralai" rel="noopener" target="_blank">https://huggingface.co/mistralai</a><br/><br...
other
2
AGI_and_RL
[ 893 ]
1
2024-12-31T18:08:45Z
2024-12-31T18:08:45Z
Всем добра и только хорошего в новом году<br/><br/><tg-emoji emoji-id="5238165358564613794"><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09FA5B0.png')"><b>🥰</b></i></tg-emoji><tg-emoji emoji-id="5238165358564613794"><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40...
other
1
AGI_and_RL
[ 894, 895 ]
2
2025-01-03T11:57:38Z
2025-01-03T12:11:49Z
Эксперимент на тему обучения нейронок в 1.58 бит. Веса модели представляются в тернарном виде (т.е. каждый вес преобразуется в значение {-1,0,1}) и так используются для обучения.<br/><br/>Генерим много случайных разряженных тернарных шумовых векторов <b>v_i</b> (в них много нулей). С ними вычисляем якобиан-векторное пр...
tldr
2
AGI_and_RL
[ 896 ]
1
2025-01-03T17:42:30Z
2025-01-03T17:42:30Z
В прошлом году ребята из Physical Intelligence рассказывали про модель Pi0 <a href="https://www.physicalintelligence.company/blog/pi0" rel="noopener" target="_blank">https://www.physicalintelligence.company/blog/pi0</a> - что это фаундейшен моделька для роботов (работает поверх PaliGemma влмки от гугла + flowmatching п...
other
2
AGI_and_RL
[ 898 ]
1
2025-01-04T17:44:27Z
2025-01-04T17:44:27Z
Получается 31 декабря Дед Мороз приносил обзорку по Low Rank Adaptation и фоундейшен моделькам.<br/><br/>Рассказывают про лору, как работают, какие бывают, где и как применяются.<br/>В целом балдежка<br/><br/><b>Low-Rank Adaptation for Foundation Models: A Comprehensive Review</b><br/><a href="https://arxiv.org/abs/250...
tldr
2
AGI_and_RL
[ 900 ]
1
2025-01-04T18:24:06Z
2025-01-04T18:24:06Z
Стороны сингулярности:<br/>PPO не сошелся | PPO сошелся
other
2
AGI_and_RL
[ 901 ]
1
2025-01-06T14:28:07Z
2025-01-06T14:28:07Z
В общем я какое-то время назад сделал группу куда кидаю ссылочки которые считаю интересными (этот канал тоже когда-то был свалкой ссылок по RL)<br/>Но в целом я подумал что это может быть группой где люди могут общаться на АИ темы по отрослям так сказать. <br/>Время от времени туда будут литься ссылки на мой взгляд инт...
other
2
AGI_and_RL
[ 903 ]
1
2025-01-06T16:39:22Z
2025-01-06T16:39:22Z
Кстати существует курс по квантовому млю на русском: <a href="https://quantum-ods.github.io/qmlcourse/book/index.html" rel="noopener" target="_blank">https://quantum-ods.github.io/qmlcourse/book/index.html</a><br/>(немножко участвовал в написании)
other
2
AGI_and_RL
[ 904 ]
1
2025-01-06T21:27:53Z
2025-01-06T21:27:53Z
Ребята из проекта опенсурс агента для написания кода <b>OpenHands</b> <tg-emoji emoji-id="5238048140317170954"><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09FA5B3.png')"><b>🥳</b></i></tg-emoji> релизнули первую 0.18.0 версию 5 дней назад <br/><br/><a href="https://github.com/All-Hands-AI...
other
2
AGI_and_RL
[ 905 ]
1
2025-01-07T12:27:32Z
2025-01-07T12:27:32Z
Уверен, что многих интересует как вот там реализуются методы распределенного трейна, может кто-то хотел бы сам реализовать (а это очень полезно).<br/>Ребята из HF <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09FA497.png')"><b>🤗</b></i> начали проект по учебной реализации таких методов (d...
other
2
AGI_and_RL
[ 906, 907 ]
2
2025-01-07T17:02:25Z
2025-01-07T17:29:54Z
Наткнулся на проект (выложен 3 часа назад первый коммит) где чел учит мелкие 9/26м параметров RWKV (подвид RNNок, конкурент трансформерам) модельки играть в <a href="https://ru.wikipedia.org/wiki/%D0%A0%D0%B5%D0%B2%D0%B5%D1%80%D1%81%D0%B8" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target...
other
2
AGI_and_RL
[ 908 ]
1
2025-01-08T17:00:54Z
2025-01-08T17:00:54Z
<b>Боремся с проклятыми токенами</b> <tg-emoji emoji-id="5357252105759375520"><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F988E.png')"><b>😎</b></i></tg-emoji><br/><br/>Люблю статьи от авторов phi — очень простые с топорными методами, но работают хорошо.<br/><br/>В <a href="https://arxi...
tldr
2
AGI_and_RL
[ 910 ]
1
2025-01-09T10:59:04Z
2025-01-09T10:59:04Z
Ни дня без агентов - на этот раз помощник ресерчера. (AMD + университет Джона Хопкинса)<br/><br/><blockquote>Лаборатория Агентов состоит из трех основных фаз, которые систематически направляют исследовательский процесс: (1) Обзор литературы, (2) Экспериментирование и (3) Написание отчета. В каждой фазе специализированн...
other
2
AGI_and_RL
[ 913 ]
1
2025-01-09T13:54:21Z
2025-01-09T13:54:21Z
Еще кайфец от HF <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09FA497.png')"><b>🤗</b></i> - <b>smol course</b> по всем видам тюнингов LLMок (все на скрине видно)<br/><br/>Построен вокруг семейства моделек HF SmolLM2 в размерах 135M, 360M, and 1.7B parameters как раз предназначенные для из...
tldr
1
AGI_and_RL
[ 914, 915 ]
2
2025-01-10T11:09:40Z
2025-01-10T11:09:41Z
Ребятки, вот тут очень крутой курс по DL. Единственное только что на английском А тут находка для всех изучающих Deep Learning.<br/>Набор ноутбуков из Университета Амстердама по курсу DL в рамках магистратуры по AI.<br/>Всё удобно и готовое к запуску, понравилось.<br/><br/>Введение, трансформеры (без них никуда), Visi...
other
2
AGI_and_RL
[ 916 ]
1
2025-01-11T19:56:35Z
2025-01-11T19:56:35Z
Ребятки захотели сделать свою опенсорсную ризонинговую ллмку.<br/><br/><a href="https://novasky-ai.github.io/posts/sky-t1/" rel="noopener" target="_blank">https://novasky-ai.github.io/posts/sky-t1/</a><br/><br/>Взяли <a href="https://huggingface.co/Qwen/Qwen2.5-32B-Instruct" onclick="return confirm('Open this link?\n\n...
tldr
2
AGI_and_RL
[ 917, 920 ]
2
2025-01-12T19:54:54Z
2025-01-12T19:57:22Z
Вообще в работе про которую писал <a href="https://t.me/AGI_and_RL/916" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">выше</a> опираются на (и во многом воспроизводят) другую про обучение ризонингу.<br/><br/><b>Imitate, Explore, and Self-Improve: A Reproduction Report on Slow...
other
2
AGI_and_RL
[ 923 ]
1
2025-01-13T15:24:56Z
2025-01-13T15:24:56Z
Прикручивая ризонинг к RAGу (retrieval-augmented generation - генерации по внешним источникам информации/ответы по документам)<br/><br/>Попробовали просто раг поверх <a href="https://huggingface.co/Qwen/QwQ-32B-Preview" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">QwQ</a> (н...
tldr
2
AGI_and_RL
[ 926 ]
1
2025-01-14T09:50:19Z
2025-01-14T09:50:19Z
Пару<a href="https://huggingface.co/evilfreelancer/o1_gigachat-20b-a3b_lora" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank"> </a>часов назад завершилось долгожданное дообучение <code>o1</code> модели на <a href="https://huggingface.co/ai-sage/GigaChat-20B-A3B-instruct-bf16" on...
tldr
2
AGI_and_RL
[ 927 ]
1
2025-01-15T19:45:00Z
2025-01-15T19:45:00Z
<b>smolagents</b> - новые агенты от HF<br/><br/>Будет заменой для transformers.agents (да, есть такие)<br/>Давят на простоту в первую очередь и это правильно<br/><br/>Есть кодовый агент который пишет действия и вызовы тулов кодом (на картинке пример с кодовым агентом), а не просто jsonы с параметрами как обычно принято...
other
2
AGI_and_RL
[ 928 ]
1
2025-01-16T19:36:33Z
2025-01-16T19:36:33Z
Есть вот такая эксплорилка архива.<br/><br/><a href="https://www.alphaxiv.org/explore" rel="noopener" target="_blank">https://www.alphaxiv.org/explore</a><br/><br/>Что-то типа <a href="https://huggingface.co/papers" rel="noopener" target="_blank">https://huggingface.co/papers</a><br/>Показывает тренды папир на архиве<b...
other
2
AGI_and_RL
[ 929 ]
1
2025-01-17T20:55:18Z
2025-01-17T20:55:18Z
Интересная книжечка вышла вчера на архиве на 200 страниц по LLMам.<br/>От BERTов до ревард моделей, DPO, алайнментов и тюнингу моделек думать step-by-step.<br/>На английском. Читаем <tg-emoji emoji-id="5238048140317170954"><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09FA5B3.png')"><b>🥳</...
tldr
2
AGI_and_RL
[ 932, 933 ]
2
2025-01-21T22:56:47Z
2025-01-21T23:01:54Z
<blockquote><b>Проект Stargate</b> — это новая компания, по инвестированию $500 миллиардов в течение следующих четырех лет в создание новой инфраструктуры для искусственного интеллекта (ИИ) в OpenAI на территории США. Мы начнем с немедленного выделения $100 миллиардов. Эта инфраструктура обеспечит лидерство Америки в о...
other
2
AGI_and_RL
[ 934 ]
1
2025-01-22T08:46:31Z
2025-01-22T08:46:31Z
<b>TREAD: Token Routing for Efficient Architecture-agnostic Diffusion Training</b> - Этот простой трюк ускорит претрен вашего DIT в 25 раз!<br/><br/>Идея такая: не все токены одинаково полезны на всех слоях, не все слои одинаково полезны для всех токенов. Давайте дадим модели самой выбирать на какие слои передавать ток...
tldr
2
AGI_and_RL
[ 936 ]
1
2025-01-23T12:56:13Z
2025-01-23T12:56:13Z
<b>Salt</b><br/><br/>Мы начали собирать эту модель в августе, в конце августа получили первый прототип, а потом стало выходить миллион вариантов вида: а давайте whisper для речи+GAN для генерации аудио, а потом вышел FishAudio который лучше работает, да и в целом хорошая модель.<br/><br/>Мы шли с другого конца, собрали...
tldr
2
AGI_and_RL
[ 937, 939 ]
2
2025-01-23T19:27:49Z
2025-01-23T19:45:23Z
Агенты OpenAI<br/><br/>Нам показывают Operator: <a href="https://openai.com/index/introducing-operator/" rel="noopener" target="_blank">https://openai.com/index/introducing-operator/</a><br/>агент для работы в вебе на базе новой модельки <b>Computer-Using Agent</b> - это типа GPT-4o + ризонинг <tg-emoji emoji-id="5237...
other
2
AGI_and_RL
[ 941 ]
1
2025-01-25T14:14:00Z
2025-01-25T14:14:00Z
HuggingFace <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09FA497.png')"><b>🤗</b></i> хотят повторить модельки семейства DeepSeek-R1 и расшарить пайплайны для воспроизведения<br/><br/>Хотят нагенерить данных из R1 и дистильнуть в свои модельки, потренить аналог R1-Zero (будет Open R1-Zero)...
tldr
2
AGI_and_RL
[ 942 ]
1
2025-01-25T16:55:06Z
2025-01-25T16:55:06Z
А тут еще ребята делают модельку с ризонингом по типу R1-Zero (т.е. трененая RLем чисто)<br/><br/>Делают поверх небольших Qwen2.5 моделек 0.5B, 1.5B, 3B<br/><br/>Пишут что 3B base норм учится<br/><br/><a href="https://github.com/Jiayi-Pan/TinyZero" rel="noopener" target="_blank">https://github.com/Jiayi-Pan/TinyZero</a...
tldr
2
AGI_and_RL
[ 943 ]
1
2025-01-27T23:15:19Z
2025-01-27T23:15:19Z
А Дэвид Сильвер (лидил в DeepMind ресеч по AlphaGo, AlphaZero и ко-лидил AlphaStar) кстати показывал вот такие слайдики на RL Conference в августе. <br/><br/>График внимание к RL и время. Суперхуман ии будет если вот очень много внимания уделять, получается <tg-emoji emoji-id="5235592192117972239"><i class="emoji" styl...
other
1
AGI_and_RL
[ 945 ]
1
2025-01-28T10:58:24Z
2025-01-28T10:58:24Z
<i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F9A80.png')"><b>🚀</b></i> <a href="https://t.me/SBERLOGASCI" target="_blank">@SBERLOGASCI</a> webinar on data science:<br/><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F91A8E2808DF09F94AC.png')"><b>👨‍🔬</b></i...
other
2
AGI_and_RL
[ 947 ]
1
2025-01-28T15:20:12Z
2025-01-28T15:20:12Z
Мнение<br/><br/>DeepSeek просто респект за то, что могут вот так шуму навести. Мне стало казаться, что никто и не собирается уже. Основной кайф что многое опенсорсят. Остальные могут повторять и ресечить мощно.<br/>Кроме них есть Qwen, Mistral которые очень большие молодцы, много выкладывают. Mistral Nemo вон какой кру...
other
2