channel
string
post_ids
list
n_posts
int64
dt_utc_first
timestamp[ns, tz=UTC]
dt_utc_last
timestamp[ns, tz=UTC]
html_unwrapped
string
label
string
priority_max
int64
AGI_and_RL
[ 641 ]
1
2023-10-26T04:04:50Z
2023-10-26T04:04:50Z
<i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09FA497.png')"><b>🤗</b></i> решили рассказать о нюансах реализации RLHF с PPO.<br/><br/><b>The N Implementation Details of RLHF with PPO<br/></b><a href="https://huggingface.co/blog/the_n_implementation_details_of_rlhf_with_ppo" rel="noopener" ...
tldr
2
AGI_and_RL
[ 642 ]
1
2023-10-26T09:27:20Z
2023-10-26T09:27:20Z
Оптимизировать RLем города? Да.<br/><br/>В целом суть - оптимизация некоего исходного графа с мультиагентым RLем. Прикладная работа, но редкая и интересная тема. Вдруг вам прямо сейчас надо спроектировать город?<br/><br/><b>AI Agent as Urban Planner: Steering Stakeholder Dynamics in<br/>Urban Planning via Consensus-bas...
tldr
2
AGI_and_RL
[ 644 ]
1
2023-11-24T15:38:56Z
2023-11-24T15:38:56Z
Вышла статья с обзором способов детектирования <br/>LLM-контента.<br/><br/>Перечислили доступные датасеты и применяемые техники. <br/><br/><b>A Survey on Detection of LLMs-Generated Content<br/></b><a href="https://arxiv.org/abs/2310.15654" rel="noopener" target="_blank">https://arxiv.org/abs/2310.15654</a><br/><a href...
tldr
1
AGI_and_RL
[ 645 ]
1
2023-11-27T08:18:34Z
2023-11-27T08:18:34Z
Тут показывают как учить квадрокоптер летать с RLем за 18 секунд (и 300к шагов) на маке.<br/><br/>Решили много нюансов, чтобы подход был универсальным и натренированная нейрока могла быть загружена в дрона Crazyflie; <br/>Использовали асимметричный actor-critic (после тренировки нужен лишь actor);<br/>Написали все на п...
tldr
1
AGI_and_RL
[ 646 ]
1
2023-11-27T17:29:41Z
2023-11-27T17:29:41Z
Среда для обучения агентов доказательству теорем<br/><br/><a href="https://github.com/princeton-vl/CoqGym" rel="noopener" target="_blank">https://github.com/princeton-vl/CoqGym</a><br/><br/><b>Learning to Prove Theorems via Interacting with Proof Assistants</b><br/><a href="https://arxiv.org/abs/1905.09381" rel="noopen...
tldr
2
AGI_and_RL
[ 647 ]
1
2023-11-28T18:00:12Z
2023-11-28T18:00:12Z
Для тех, кто ищет темную материю.<br/><br/>Я не физик, а тут все для них. Как понял, авторы (62 человека указаны) настраивают RLем температуру и ток смещения в частях криогенных детекторов проекта <a href="https://ru.wikipedia.org/wiki/CRESST" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" ta...
tldr
2
AGI_and_RL
[ 648, 649 ]
2
2023-12-06T14:02:38Z
2023-12-06T14:02:49Z
Мы все осуждаем RL, но хочется спросить, кто сделал <b>1 ТРИЛЛИОН</b> ДЕЙСТВИЙ ЗА ДВА ДНЯ?<br/><br/>Их сделали мы и зарелизили <a href="https://github.com/corl-team/xland-minigrid" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">XLand-MiniGrid</a> – наша новая среда для Meta-RL...
other
2
AGI_and_RL
[ 650, 651 ]
2
2023-12-06T15:02:48Z
2023-12-06T15:09:54Z
<a href="?q=%23%D1%87%D1%82%D0%B8%D0%B2%D0%BE%D0%BD%D0%B0%D0%BD%D0%BE%D1%87%D1%8C">#чтивонаночь</a> <b>Mamba: Linear-Time Sequence Modeling with Selective State Spaces.</b><br/><br/>Последние три дня в ресерч твитере обсуждают MAMBA, нет ресерчеры не знакомятся с другими людьми и не слушают рэп вы не подумайте.<br/><br...
tldr
2
AGI_and_RL
[ 652 ]
1
2023-12-07T12:45:23Z
2023-12-07T12:45:23Z
<b>garak</b> - сканер уязвимостей LLM<br/><br/>Автор называет свое решение аналогом nmap (известный сетевой сканер) для LLM.<br/><br/>С помощью garak можно протестировать языковую модель на <br/><br/>* галлюцинации, <br/>* утечки данных, <br/>* промт инъекции,<br/>* проверка на написание малвари и xss<br/><br/><a href=...
other
2
AGI_and_RL
[ 653 ]
1
2023-12-10T07:24:13Z
2023-12-10T07:24:13Z
Пока там выходят разные новые LLM-поделки, напоминаю про лучшие модельки которые вы можете локально погонять:<br/><br/><b>Mistral-7B</b><br/>HF: <a href="https://huggingface.co/mistralai/Mistral-7B-v0.1" rel="noopener" target="_blank">https://huggingface.co/mistralai/Mistral-7B-v0.1</a><br/>llama.cpp GGUF: <a href="htt...
other
2
AGI_and_RL
[ 654 ]
1
2023-12-12T09:23:24Z
2023-12-12T09:23:24Z
Еще фреймворк для тулов и вызовов функций. Заявляют, что быстрее и эффективнее чем через ReAct.<br/>Сейчас работает с OpenAI, подвязка LLama в роадмэпе.<br/><br/><b>LLMCompiler: An LLM Compiler for Parallel Function Calling</b><br/><a href="https://arxiv.org/abs/2312.04511" rel="noopener" target="_blank">https://arxiv....
tldr
2
AGI_and_RL
[ 655, 656 ]
2
2023-12-12T14:05:57Z
2023-12-12T14:06:16Z
Зарплаты подкатили для AI спецов Теперь знаете куда идти работать
other
2
AGI_and_RL
[ 658 ]
1
2023-12-13T11:54:28Z
2023-12-13T11:54:28Z
Хм, тут пишут про <b>Brainoware</b> - гибридный биокомпьютер, который (вроде как) смог научиться распознавать голоса с 78% точностью.<br/><br/>Поместили органоид (состоящий из нейронов полученных из стволовых клеток (?)) на пластину с тысячами электродов и учили на 240 часах записей разговоров 8 человек (информацию тр...
other
1
AGI_and_RL
[ 659 ]
1
2023-12-13T19:53:22Z
2023-12-13T19:53:22Z
кусок искусственных мозгов когда в него воткнули тысячу электродов и заставили слушать 240 часов болтовни:
other
2
AGI_and_RL
[ 660, 661 ]
2
2023-12-14T09:59:14Z
2023-12-14T10:01:00Z
Days without asian tricks: 0<br/><br/>nVidia опровергла релизные заявления AMD, в котором сравнивали их MI300 vs H100 (первые два столбца на графике)<br/><br/>В своей презентации AMD запускали H100 без Tensor-LLM/triton, который любой здравомыслящий человек использовал бы в реальном сценарии.<br/><br/>Ну а за время обр...
other
2
AGI_and_RL
[ 662 ]
1
2023-12-14T18:43:13Z
2023-12-14T18:43:13Z
У DeepMind вышла статья, как с помощью LLM строить алгоритмы решающие математические задачи:<br/><br/><a href="https://deepmind.google/discover/blog/funsearch-making-new-discoveries-in-mathematical-sciences-using-large-language-models/" rel="noopener" target="_blank">https://deepmind.google/discover/blog/funsearch-maki...
tldr
2
AGI_and_RL
[ 665 ]
1
2023-12-18T17:12:15Z
2023-12-18T17:12:15Z
Управлять кубитами RLем в реалтайме.<br/><br/>Тут агент работает на FPGA и с субмикросекундной скоростью взаимодействует с квантовой системой для того чтобы инициализировать сверхпроводящий кубит в основное состояние. Оптимизация параметров нейронки происходит же на обычном компьютере и обновляет веса на FPGA.<br/><br/...
tldr
2
AGI_and_RL
[ 666 ]
1
2023-12-19T11:57:18Z
2023-12-19T11:57:18Z
Обзорная статья по техникам оптимизации трансформеров для работы с длинным контекстом.<br/>Многие сейчас этим интересуются, пригодится<br/><br/><b>Advancing Transformer Architecture in Long-Context Large Language Models: A Comprehensive Survey</b><br/><a href="https://arxiv.org/abs/2311.12351" rel="noopener" target="_b...
tldr
2
AGI_and_RL
[ 667 ]
1
2023-12-22T10:31:18Z
2023-12-22T10:31:18Z
Решил разобрать детальнее статейку парней из Tinkoff Research — <a href="https://arxiv.org/abs/2305.09836" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">ReBRAC: Revisiting the Minimalist Approach to Offline Reinforcement Learning</a>, которая была опубликована на NeurIPS в эт...
tldr
2
AGI_and_RL
[ 668 ]
1
2023-12-22T19:46:35Z
2023-12-22T19:46:35Z
Давно натыкался на вот такую либу от Microsoft для текстовых мультиагентов, но все не доводилось попробовать<br/><br/><a href="https://github.com/microsoft/autogen" rel="noopener" target="_blank">https://github.com/microsoft/autogen</a><br/><br/>Как я понимаю рассчитана на работу лишь с GPT-4 модельками.<br/>Т.к. опенс...
other
2
AGI_and_RL
[ 669 ]
1
2023-12-23T16:50:21Z
2023-12-23T16:50:21Z
<b>CyberBattleSim</b> - библиотека для создания симуляторов сетевых окружений с возможностью обучения автономных агентов для задач кибербезопасности.<br/> <br/><a href="https://github.com/microsoft/CyberBattleSim/tree/main" rel="noopener" target="_blank">https://github.com/microsoft/CyberBattleSim/tree/main</a>
other
2
AGI_and_RL
[ 670 ]
1
2023-12-29T20:05:21Z
2023-12-29T20:05:21Z
Как насчет автономной лабы по созданию новых материалов?<br/><br/>Такую лабораторию разработали в Беркли и назвали<b> A-Lab</b>.<br/>Внутри много разного MLя и агентиков, которые отвечают за свои фазы в процессе синтеза. Там и RLем учили нейронки для некоторых стадий.<br/><br/>Учились на <a href="https://next-gen.mate...
tldr
2
AGI_and_RL
[ 671 ]
1
2023-12-30T17:11:05Z
2023-12-30T17:11:05Z
Математические на месте? Датасет MathPile на 9.5 миллиардов токенов тут <br/><br/><a href="https://github.com/GAIR-NLP/MathPile" rel="noopener" target="_blank">https://github.com/GAIR-NLP/MathPile</a><br/><br/><a href="https://huggingface.co/datasets/GAIR/MathPile" rel="noopener" target="_blank">https://huggingface.co/...
other
2
AGI_and_RL
[ 673 ]
1
2024-01-01T20:14:32Z
2024-01-01T20:14:32Z
А там выпустили <b>Emu2</b> мультимодалку на 37B параметров, которую лучше гонять в few-shot режиме (с несколькими примерами на вход).<br/><br/>Авторы хотели бы соту, надо проверять.<br/><br/><a href="https://baaivision.github.io/emu2/" rel="noopener" target="_blank">https://baaivision.github.io/emu2/</a><br/><br/>веса...
tldr
2
AGI_and_RL
[ 674 ]
1
2024-01-02T09:37:02Z
2024-01-02T09:37:02Z
Вспомним про самоорганизущиеся карты из очень дальних закромов.<br/>Они например могут довольно неплохо и быстро решать TSP.<br/><br/><a href="https://github.com/diego-vicente/som-tsp" rel="noopener" target="_blank">https://github.com/diego-vicente/som-tsp</a>
other
2
AGI_and_RL
[ 675 ]
1
2024-01-04T14:15:12Z
2024-01-04T14:15:12Z
<b>State Machine of Thought</b><br/><br/><b>Возможно</b> интересный фреймворк для решения задачек где у нас есть состояния с действиями (можно подключать например к уже готовым окружениям).<br/><br/>Ну и мы хотим заставить LLMку работать как конечный автомат. Нам нужно сразу определить {набор состояний, набор событий, ...
tldr
2
AGI_and_RL
[ 676 ]
1
2024-01-05T05:48:09Z
2024-01-05T05:48:09Z
<b>Точечное редактирование знаний внутри LLM</b> <b>(by Alibaba)<br/><br/></b>Тут вышел крутейший обзор всех методов редактирования памяти языковых моделей! Авторы собрали всё внутри единого фреймворка, и теперь можно в пару строчек кода подправить мозги вашей LLM <i class="emoji" style="background-image:url('//telegra...
tldr
2
AGI_and_RL
[ 677 ]
1
2024-01-05T08:33:01Z
2024-01-05T08:33:01Z
Вообще жесть маленькая LLama на 1.1B параметров<br/><br/><a href="https://github.com/jzhang38/TinyLlama" rel="noopener" target="_blank">https://github.com/jzhang38/TinyLlama</a><br/><br/>И инструкт на HF<br/><br/><a href="https://huggingface.co/TinyLlama/TinyLlama-1.1B-Chat-v1.0" rel="noopener" target="_blank">https://...
other
2
AGI_and_RL
[ 678, 679 ]
2
2024-01-05T16:27:56Z
2024-01-05T16:29:45Z
Когда-то давно OpenAI занимались направлением Robotics, но его пришлось закрыть. Ilya Sutskever <a href="https://youtu.be/Yf1o0TQzry8?t=772" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">говорил</a>, что основной преградой были данные — реальные или синтетические — для обучен...
other
2
AGI_and_RL
[ 680 ]
1
2024-01-06T02:59:08Z
2024-01-06T02:59:08Z
Тут решили поисследовать роль "временных клеток" (time cells, клетки которые активируются в определенные моменты времени) и "нарастающих клеток" (ramping cells, клетки активность которых увеличивается/уменьшается с течением времени) в рекуррентных сетях обученных RLем. <br/><br/>Расскажу как я понял.<br/><br/>Считается...
tldr
2
AGI_and_RL
[ 681 ]
1
2024-01-06T07:50:40Z
2024-01-06T07:50:40Z
Как в Lyft решают реальную задачу Taxi RLем. Суммарно за год смогли добавить + $30m. <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F9187.png')"><b>👇</b></i><br/><br/><a href="https://t.me/j_links/7319" rel="noopener" target="_blank">https://t.me/j_links/7319</a><br/><br/><b>A Better Matc...
tldr
2
AGI_and_RL
[ 682 ]
1
2024-01-06T10:40:11Z
2024-01-06T10:40:11Z
Ты vs друг о котором она просила не беспокоиться
other
2
AGI_and_RL
[ 683 ]
1
2024-01-07T07:12:53Z
2024-01-07T07:12:53Z
<b>Adversarial Robustness Toolbox (ART)</b> для тестирования и защиты ML моделей от adversarial атак<br/><br/><br/><a href="https://github.com/Trusted-AI/adversarial-robustness-toolbox" rel="noopener" target="_blank">https://github.com/Trusted-AI/adversarial-robustness-toolbox</a><br/><br/>+ Внутри можно найти реализац...
other
2
AGI_and_RL
[ 684 ]
1
2024-01-07T11:07:21Z
2024-01-07T11:07:21Z
<b>BridgeData V2: A Dataset for Robot Learning at Scale </b><br/><br/>Большой видеодатасет для обучения роботов<br/><br/>60,096 траекторий<br/>* 50,365 демонстраций эксперта + 9,731 от скриптов<br/>24 окружения<br/>13 навыков<br/><br/>+ Реализовали некоторые алгоритмы для BC/RL<br/><br/><a href="https://rail-berkeley....
tldr
2
AGI_and_RL
[ 686 ]
1
2024-01-09T11:17:39Z
2024-01-09T11:17:39Z
Обзорную вам статейку на 80 страничек где рассуждают как собрать <b>Agent AI</b> мегазорда из тех систем которые разработаны сегодня.<br/><br/>Обсуждают нюансы и проблемы сегодняшних систем на базе LLMов, мультимодалок, RLя и пути их решений.<br/><br/>Скорее для тех кто хочет разобраться в нынешних подходах к агентам н...
tldr
2
AGI_and_RL
[ 687 ]
1
2024-01-11T08:36:24Z
2024-01-11T08:36:24Z
<tg-spoiler>[пост был удалён]</tg-spoiler><br/><br/>Вихрь - семейство русификацированных моделей (flan т5 240м, flan т5 3В, mistral 7B) как основы.<br/><br/><br/>Все имеют адаптированный под русский токенйазер, подучены на хабре, а т5 ещё и на переведенной open orca.<br/><br/>Все модели учились с дистиляционным лоссом,...
other
2
AGI_and_RL
[ 688 ]
1
2024-01-11T15:33:50Z
2024-01-11T15:33:50Z
Генерируем jailbreak темплейты с <b>GPTFuzzer</b>.<br/><br/>Сначала собрали написанные людьми примеры взламывающих темплейтов. <br/><br/>Далее применяем алгоритм:<br/><br/>1. Нужно выбрать темплейт из пула.<br/>Выбирается одним из 4 способов - random, round robin, UCB или <b>MCTS-Explore</b> - авторская модификация MC...
tldr
2
AGI_and_RL
[ 689 ]
1
2024-01-12T21:07:45Z
2024-01-12T21:07:45Z
Тыкался по архиву, а там дипмаинды решают тему планирования с трансформерами. В своем стиле.<br/><br/>Пишут про какой-то transformer with discrete bottleneck(TDB).<br/><br/>Кидают его на частично обозреваемые среды (пишут в основном 2д и 3д комнаты) , в которых учат предсказывать будущие observations, потом извлекают и...
tldr
2
AGI_and_RL
[ 690 ]
1
2024-01-14T22:49:55Z
2024-01-14T22:49:55Z
Вышла вторая часть секретов RLHF, теперь про Reward Modeling.<br/><br/>Сразу обе части:<br/><br/><b>Secrets of RLHF in Large Language Models Part I: PPO</b><br/><a href="https://arxiv.org/abs/2307.04964" rel="noopener" target="_blank">https://arxiv.org/abs/2307.04964</a><br/><br/><b>Secrets of RLHF in Large Language Mo...
tldr
2
AGI_and_RL
[ 691 ]
1
2024-01-17T16:49:31Z
2024-01-17T16:49:31Z
DeepMind, если вы слышите, не останавливайтесь.<br/><br/><a href="https://deepmind.google/discover/blog/alphageometry-an-olympiad-level-ai-system-for-geometry/" rel="noopener" target="_blank">https://deepmind.google/discover/blog/alphageometry-an-olympiad-level-ai-system-for-geometry/</a>
other
1
AGI_and_RL
[ 692 ]
1
2024-02-07T15:15:48Z
2024-02-07T15:15:48Z
<i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F8E93.png')"><b>🎓</b></i> <b>— Семинар 18. </b>Mastering Memory Tasks with World Models | Артём Жолус<br/><br/>Завтра на семинаре выступит выпускник нашей магистерской программы <a href="https://cogmodel.mipt.ru/applicants" onclick="return co...
other
1
AGI_and_RL
[ 693 ]
1
2024-02-15T19:11:18Z
2024-02-15T19:11:18Z
Для удобства<br/><br/>Google говорит: анонс Gemini Pro 1.5 <br/><a href="https://blog.google/technology/ai/google-gemini-next-generation-model-february-2024" rel="noopener" target="_blank">https://blog.google/technology/ai/google-gemini-next-generation-model-february-2024</a><br/>Мультимодалочка, теперь до 1м токенов. ...
other
2
AGI_and_RL
[ 694 ]
1
2024-02-16T20:41:17Z
2024-02-16T20:41:17Z
Статья про 400 функций активации?<br/>Статья про 400 функций активации.<br/>Сколько там? 400.<br/><br/><b>Three Decades of Activations: A Comprehensive Survey of 400 Activation Functions for Neural Networks</b><br/><a href="https://arxiv.org/abs/2402.09092" rel="noopener" target="_blank">https://arxiv.org/abs/2402.0909...
tldr
2
AGI_and_RL
[ 695 ]
1
2024-02-27T08:08:13Z
2024-02-27T08:08:13Z
<b>Do Large Language Models Latently Perform Multi-Hop Reasoning? (by Google)</b><br/><br/>Авторы обнаружили, что если вопрос сформулирован неявно, то LLM уже во время его чтения "пытаются" подставить промежуточный шаг рассуждений в латентном пространстве. Например, для эмбеддингов последних токенов этого вопроса<br/><...
tldr
2
AGI_and_RL
[ 696 ]
1
2024-02-28T18:47:48Z
2024-02-28T18:47:48Z
Еще подход к оптимизации LLM трейна через копирование слоев с рлем<br/><br/>Раз в несколько итераций трейна спрашивем рльную полиси (маленький MLP) какой слой копирнуть в вышестойщий. В статье этот механизм называется "связыванием", он определяет, когда слои тренируются и копируются. В самом начале тренируется только п...
tldr
2
AGI_and_RL
[ 698 ]
1
2024-02-28T19:47:39Z
2024-02-28T19:47:39Z
<i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F9A80.png')"><b>🚀</b></i> <a href="https://t.me/SBERLOGASCI" target="_blank">@SBERLOGASCI</a> webinar on data science and mathematics:<br/><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F91A8E2808DF09F94AC.png')"...
other
2
AGI_and_RL
[ 699 ]
1
2024-03-02T07:28:54Z
2024-03-02T07:28:54Z
Awesome листик по reasoningу хотим? Обновлялся 2 недели назад.<br/><br/><a href="https://github.com/reasoning-survey/Awesome-Reasoning-Foundation-Models" rel="noopener" target="_blank">https://github.com/reasoning-survey/Awesome-Reasoning-Foundation-Models</a>
other
1
AGI_and_RL
[ 700 ]
1
2024-03-07T08:56:13Z
2024-03-07T08:56:13Z
ДипМаинды нам объясняют, что если Q/Value функции строить на категориальных распределениях и переходить от регрессии к классификации, то RL зачастую будет учиться лучше. <br/><b><br/>Stop Regressing: Training Value Functions via Classification for Scalable Deep RL</b><br/><a href="https://arxiv.org/abs/2403.03950" rel=...
tldr
2
AGI_and_RL
[ 703 ]
1
2024-03-08T13:14:26Z
2024-03-08T13:14:26Z
<div class="tgme_widget_message_text js-message_reply_text" dir="auto"><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F8E93.png')"><b>🎓</b></i> — Семинар 18. Mastering Memory Tasks with World Models | Артём Жолус Завтра на семинаре выступит выпускник нашей магистерской программы МТИИ, ны...
other
2
AGI_and_RL
[ 704 ]
1
2024-03-08T14:38:13Z
2024-03-08T14:38:13Z
У меня есть несколько значительных апдейтов касательно AQLM:<br/><br/><b>Базовое качество:</b> мы улучшили процедуру глобального файнтюна сетки квантизации, уменьшив зазор качества до FP16 на еще 10-30%. Мы обновили <a href="https://huggingface.co/collections/ISTA-DASLab/aqlm-65e8dc75b908c7d73ec35598" onclick="return c...
other
2
AGI_and_RL
[ 705 ]
1
2024-03-12T12:28:16Z
2024-03-12T12:28:16Z
Пытаемся выучивать последовательности задач в рле.<br/><br/>Демонстрируют на 2х алгоритах: SAC и PPO, оба они actor-critic Среда - <a href="https://meta-world.github.io/" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">метаворлд</a>, там мы манипулятором нажимаем кнопочки, пере...
tldr
1
AGI_and_RL
[ 707 ]
1
2024-03-13T15:04:56Z
2024-03-13T15:04:56Z
А DeepMindы нам что-то показывают. Похоже, оно должно уметь играть в игрушки.<br/><br/>Как понял учатся через behavior cloning на том, как люди играют в игры и проходят окружения...<br/><br/>Вроде и не плохо но чот хз. RLя не завезли это минус.<br/><br/><a href="https://deepmind.google/discover/blog/sima-generalist-ai-...
tldr
2
AGI_and_RL
[ 710, 711 ]
2
2024-03-17T10:32:47Z
2024-03-17T11:02:20Z
Ребята собирают MCTS based RL алгоритмы в один тулкит. <br/>Еще собирают списочек со значимыми статьями (тыкнуть Key Papers/Other Papers)<br/>Приятно, что все еще обновляется<br/><br/><a href="https://github.com/opendilab/LightZero" rel="noopener" target="_blank">https://github.com/opendilab/LightZero</a> Genstruct<br...
other
2
AGI_and_RL
[ 712, 713 ]
2
2024-03-17T20:08:13Z
2024-03-17T20:23:48Z
X нам выдают Grok-1 на 314B.<br/><br/>Кто тестить будет?<br/>(сервак для инференса в сделку не входит)<br/><br/><a href="https://github.com/xai-org/grok" rel="noopener" target="_blank">https://github.com/xai-org/grok</a> Там уже тредик о работе у Илона Маска организовали<br/>Ваш шанс, ребята!<br/><br/><a href="https:/...
other
2
AGI_and_RL
[ 714 ]
1
2024-03-18T12:44:56Z
2024-03-18T12:44:56Z
<i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F9A80.png')"><b>🚀</b></i> <a href="https://t.me/SBERLOGASCI" target="_blank">@SBERLOGASCI</a> вебинар/обсуждение :<br/><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F91A8E2808DF09F94AC.png')"><b>👨‍🔬</b></i> Бо...
other
1
AGI_and_RL
[ 715, 716 ]
2
2024-03-18T15:40:54Z
2024-03-18T15:41:56Z
<a href="https://www.youtube.com/watch?v=jvqFAi7vkBc" rel="noopener" target="_blank">https://www.youtube.com/watch?v=jvqFAi7vkBc</a><br/><br/>Блин я только хотел спать идти. Ожидаю 2 часа дичайшего кайфа.<br/><br/>Как раз хватит, чтобы протянуть до выставки NVIDIA GTC 2024 (через 4.5 часа). Если кто хочет узнать что т...
other
1
AGI_and_RL
[ 717 ]
1
2024-03-18T16:21:11Z
2024-03-18T16:21:11Z
Кстати, как понял трансляция Нвидиевской GTC 2024 будет тут (~ через 3.5 часа)<br/><br/>Судя по всему будет много про генеративки. (хочу много про RL)<br/><br/><a href="https://www.youtube.com/watch?v=Y2F8yisiS6E" rel="noopener" target="_blank">https://www.youtube.com/watch?v=Y2F8yisiS6E</a>
other
2
AGI_and_RL
[ 718 ]
1
2024-03-20T11:00:33Z
2024-03-20T11:00:33Z
its not a world model if its not hype enough - open sora<br/><br/>Китайская версия Sora начала учиться чуть больше месяца назад, и за всего то 200 а100 дней и 400к видео начала генерировать вполне неплохие 2s видео! <br/><br/>А, это не финальный чекпоинт и это всего 16×512×512 <br/><br/><a href="https://github.com/hpca...
tldr
2
AGI_and_RL
[ 719 ]
1
2024-03-20T12:42:13Z
2024-03-20T12:42:13Z
Аппроксимировать агентов для физики с SINDy моделями.<br/><br/>Работа использует <b>Sparse Dictionary Learning</b>, вид символьной регрессии когда исходная функция выучивается в виде линейной комбинации функций из заранее заданного набора. Зовется еще SINDy.<br/>Нужно чтобы зависимость между X и Y была представима в эт...
tldr
2
AGI_and_RL
[ 722 ]
1
2024-03-20T18:07:04Z
2024-03-20T18:07:04Z
DeepMind идут в спорт и учат ИИшку генерить футбольные тактики с <b>TacticAI</b><br/><br/>В колабе с Liverpool FC<br/><br/><a href="https://deepmind.google/discover/blog/tacticai-ai-assistant-for-football-tactics/" rel="noopener" target="_blank">https://deepmind.google/discover/blog/tacticai-ai-assistant-for-football-t...
tldr
2
AGI_and_RL
[ 724 ]
1
2024-03-21T09:40:56Z
2024-03-21T09:40:56Z
Ученые на месте?<br/><br/>Нашел интересный проект с ИИшкой для науки<br/><br/><a href="https://www.air4.science/" rel="noopener" target="_blank">https://www.air4.science/</a><br/><br/><a href="https://github.com/divelab/AIRS" rel="noopener" target="_blank">https://github.com/divelab/AIRS</a><br/><br/>Внутри подразделы ...
other
2
AGI_and_RL
[ 726 ]
1
2024-03-25T09:15:24Z
2024-03-25T09:15:24Z
Дикие робособаки учатся заносить чебупели на 5 этаж. Жестяная природа удивительна<br/><br/>AnymalTerrain в IsaacGym
other
2
AGI_and_RL
[ 727 ]
1
2024-03-26T11:31:02Z
2024-03-26T11:31:02Z
Опять нам пропихивают агентов на концепте LLM OS<br/><br/>Сразу расчет на работу с локальными ллмками<br/><br/>Тулы, раги, поиск. Все что мы любим. Почему-то у них в примере Gemma-2B... Этого я не понял. Чего сразу опенчат не подкрутили?<br/><br/><b>AIOS: LLM Agent Operating System</b><br/><br/><a href="https://github....
other
2
AGI_and_RL
[ 729 ]
1
2024-03-29T10:54:24Z
2024-03-29T10:54:24Z
Видели такое? <br/>Тут говорят можно разные техники, лоссы, архитектуры DL наглядно изучить. Фреймворк DL Pytorch. <br/><br/>Удобно? <br/><br/><a href="https://nn.labml.ai/" rel="noopener" target="_blank">https://nn.labml.ai/</a>
other
2
AGI_and_RL
[ 730 ]
1
2024-03-29T14:50:21Z
2024-03-29T14:50:21Z
Вон чего выдумали<br/><br/>Предлагают <b>Evolutionary Model Merge</b> способ сборки нужных вам Foundational Models из частей других моделек с эволюционными техниками.<br/>Можно мержить модельки разных архитектур.<br/><br/>Таким образом собрали себе 3 модельки для японского (из уже существующих моделек)<br/><br/>Large L...
tldr
2
AGI_and_RL
[ 733 ]
1
2024-03-29T18:02:22Z
2024-03-29T18:02:22Z
<b>OpenAI</b> делятся семплами из своей text-to-speech/voice cloning модельки Voice Engine<br/><br/><a href="https://openai.com/blog/navigating-the-challenges-and-opportunities-of-synthetic-voices" rel="noopener" target="_blank">https://openai.com/blog/navigating-the-challenges-and-opportunities-of-synthetic-voices</a>
tldr
2
AGI_and_RL
[ 734 ]
1
2024-03-31T14:28:52Z
2024-03-31T14:28:52Z
Предлагаю организовать небольшой тредик в комментах на тему OpenAIшного Q*, чем они могли бы заниматься в рамках этого проекта. Если там ИИшка, но на чем она может базироваться?<br/>Накидываем свои мысли<br/>Мне просто интересно<br/><br/>У меня особо нету догадок.<br/>1. Гигатрансформер, который будет ризонить как не в...
other
2
AGI_and_RL
[ 735 ]
1
2024-04-01T13:41:23Z
2024-04-01T13:41:23Z
<b>Как устроено пространство, в котором думают языковые модели?</b><br/><br/>Наша <a href="https://t.me/abstractDL/250" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">статья</a> про анизотропию и внутреннюю размерность активаций трансформеров вышла в печать на EACL! В честь эт...
tldr
2
AGI_and_RL
[ 736 ]
1
2024-04-02T13:18:26Z
2024-04-02T13:18:26Z
На канале 3Blue1Brown вышло видео объясняющее что же такое GPT. Очень приятное.<br/>Я выставил в настройках русские субтитры, и мне стало еще понятнее :)<br/><br/><a href="https://www.youtube.com/watch?v=wjZofJX0v4M" rel="noopener" target="_blank">https://www.youtube.com/watch?v=wjZofJX0v4M</a>
other
2
AGI_and_RL
[ 737 ]
1
2024-04-05T18:17:09Z
2024-04-05T18:17:09Z
Похоже, что в ETH Zurich осознали силу колёс. Уже некоторое время они учат робота, у которого во всех 4х конечностях по колесу (разработан компанией ANYbotics, как я понял) выполнять задачки в реальной жизни. <br/>Такая конструкция позволяет ему преодолевать больше препятствий и делает более гибким.<br/><br/>Классифици...
tldr
2
AGI_and_RL
[ 738 ]
1
2024-04-07T21:36:59Z
2024-04-07T21:36:59Z
Как же хочется "анатомически детализированную биомеханическую модель всего тела плодовой мухи Drosophila melanogaster в физическом движке MuJoCo". Держите.<br/><br/>13 ученых (в том числе парочка из <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/E29DA4.png')"><b>❤️</b></i>DeepMind<i class="em...
tldr
2
AGI_and_RL
[ 740 ]
1
2024-04-08T19:42:08Z
2024-04-08T19:42:08Z
<div class="tgme_widget_message_text js-message_reply_text" dir="auto">На канале 3Blue1Brown вышло видео объясняющее что же такое GPT. Очень приятное. Я выставил в настройках русские субтитры, и мне стало еще понятнее :) https://www.youtube.com/watch?v=wjZofJX0v4M</div>
other
2
AGI_and_RL
[ 741 ]
1
2024-04-08T20:22:24Z
2024-04-08T20:22:24Z
Andrej Karpathy создал репозиторий с проектом по реализации LLM/GPT-2 на C/CUDA !<br/><br/><a href="https://github.com/karpathy/llm.c" rel="noopener" target="_blank">https://github.com/karpathy/llm.c</a>
tldr
2
AGI_and_RL
[ 742, 743 ]
2
2024-04-10T12:18:06Z
2024-04-10T12:21:00Z
Такс. В Японии все стабильно.<br/><br/>Собрали самоходный трехногий табурэт <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09FAA91.png')"><b>🪑</b></i> из аниме "Suzume" с ардуинкой. У него 6 сервоприводов.<br/>Учили вставать и ходить двумя методами: connecting essential postures (интерполяц...
other
2
AGI_and_RL
[ 744 ]
1
2024-04-11T18:41:22Z
2024-04-11T18:41:22Z
Оказывается DeepMind учит играть маленьких робофутболистов <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/E29ABD.png')"><b>⚽️</b></i>. Работа была проделана большая.<br/><br/>На видосиках можно посмотреть как они шустро бегают и забивают голы: <br/><a href="https://sites.google.com/view/op3-s...
tldr
2
AGI_and_RL
[ 745 ]
1
2024-04-11T20:41:53Z
2024-04-11T20:41:53Z
<b>Plan GPT. Или до Q* было <s>слово</s> A*</b>.<br/><br/>Рубрика ночное чтиво. Ознакомился тут со <a href="https://huggingface.co/papers/2402.14083" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">статьей</a> на послевкусии хайпа с Q*. Было интересно, а были/есть ли работы и о...
tldr
2
AGI_and_RL
[ 746 ]
1
2024-04-14T20:49:31Z
2024-04-14T20:49:31Z
Там собрали окружение (на базе виртуальной машины) для тестирования мультимодальных агентиков в работе с реальной операционной системой.<br/>Внутри стоят реальные приложения, которыми мы с вами пользуемся. Также на выбор несколько операционок.<br/><br/>Агент может управлять <b>мышкой и клавиатурой</b>. <br/>А на входе ...
tldr
2
AGI_and_RL
[ 747 ]
1
2024-04-16T14:36:09Z
2024-04-16T14:36:09Z
Как GPT-4V в RDR2 играла.<br/><br/>Авторы поставили задачу <b>General Computer Control</b> (GCC): создание foundation агентов для решения любых компьютерных задач также как это делают люди, т.е. когда на вход агенту подаются те же данные, что и человеку (например изображения с <b>экрана/текст/звук</b>), а управлять мож...
tldr
2
AGI_and_RL
[ 750 ]
1
2024-04-17T13:45:15Z
2024-04-17T13:45:15Z
А там <b>BostonDynamics</b> показали новую версию платформы для роботов <b>Atlas</b>.<br/>Пишут, что новое поколение будет сильнее и сможет выполнять более широкий диапазон движений.<br/><br/><a href="https://bostondynamics.com/blog/electric-new-era-for-atlas/" rel="noopener" target="_blank">https://bostondynamics.com/...
tldr
2
AGI_and_RL
[ 751 ]
1
2024-04-18T08:57:32Z
2024-04-18T08:57:32Z
<a href="https://arxiv.org/abs/2404.11018" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">Many-Shot In-Context Learning</a><br/><br/>LLM известны своим навыком In-Context Learning (ICL) — они могут выучить новую задачу без непосредственно обучения, просто по демонстрации приме...
tldr
2
AGI_and_RL
[ 752, 753 ]
2
2024-04-18T16:23:21Z
2024-04-18T16:37:19Z
Вышла Ллама 3.<br/><br/>8B, 70B. (8192 tokens)<br/>После тестиков в ближайшее время узнаем что в реальности по бенчам.<br/><br/>Веса (придется формочку заполнить)<br/><a href="https://huggingface.co/collections/meta-llama/meta-llama-3-66214712577ca38149ebb2b6" rel="noopener" target="_blank">https://huggingface.co/colle...
other
2
AGI_and_RL
[ 754, 755 ]
2
2024-04-19T10:49:24Z
2024-04-19T10:52:23Z
<a href="https://huggingface.co/IlyaGusev/saiga_llama3_8b" rel="noopener" target="_blank">https://huggingface.co/IlyaGusev/saiga_llama3_8b</a><br/><br/>Обучал unsloth'ом чуть больше часа на RTX 4090. Сейчас ещё поставил обучение старым кодом. Особо не тыкал, по тестовым промптам вполне неплохо. GGUF будет, но завтра. ...
other
2
AGI_and_RL
[ 756, 757 ]
2
2024-04-19T14:12:54Z
2024-04-19T14:13:39Z
<tg-emoji emoji-id="5382013970905309819"><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F8E99.png')"><b>🎙</b></i></tg-emoji><b>— Радиоэфир</b> <b>"Embodied AI"</b> <br/><br/>Мы знаем, что у нас активная аудитория и хотим попробовать новый формат - <b>Радиоэфир!</b> <br/><br/>В этом формат...
other
2
AGI_and_RL
[ 758 ]
1
2024-04-19T15:19:02Z
2024-04-19T15:19:02Z
<b>DARPA</b> продолжает разработки по ИИ для Air Combat с истребителями. И вот они прошли важный рубеж.<br/><br/><b>ACE AI </b>автономно управлял специально модифицированным F-16 (такая версия называется <b>X-62A</b>, или VISTA - Variable In-Flight Simulator Test Aircraft) при проведении боевых маневров против человека...
tldr
2
AGI_and_RL
[ 759 ]
1
2024-04-20T20:57:41Z
2024-04-20T20:57:41Z
Improving microbial phylogeny with citizen science within a mass-market video game<br/><br/>Наконец-то, статья, переплюнувшая статью Google Gemini по количеству контрибьюторов <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F9885.png')"><b>😅</b></i><br/><br/>Если кратко - учёные, исследова...
tldr
2
AGI_and_RL
[ 760 ]
1
2024-04-21T14:39:32Z
2024-04-21T14:39:32Z
Надеплоил llama3 70b, собираем синту под русские инструкт датасеты, приходите тыкаться!<br/><br/><a href="https://t.me/vikhrbot" target="_blank">@vikhrbot</a>
other
2
AGI_and_RL
[ 761 ]
1
2024-04-22T11:14:36Z
2024-04-22T11:14:36Z
Недавняя лекция-презентация от Яна ЛеКуна про <b>Objective-Driven AI</b> на 97 страничек<br/><br/>Про авторегрессионные модели (и их ограничения), <br/>Energy-Based Models, <br/>про Self-Supervised Learning, <br/>World Models, <br/>JEPA<br/><br/><a href="https://drive.google.com/file/d/1Ymx_LCVzy7vZXalrVHPXjX9qbpd9k_bo...
tldr
2
AGI_and_RL
[ 762 ]
1
2024-04-22T17:13:15Z
2024-04-22T17:13:15Z
Нашел на ютубе интервью с Ричардом Саттоном вышедшее пару месяцев назад.<br/><br/><a href="https://www.youtube.com/watch?v=zZuh8YUBeDY" rel="noopener" target="_blank">https://www.youtube.com/watch?v=zZuh8YUBeDY</a><br/><br/>Ричард - один из создателей современного обучения с подкреплением и автор популярной книги "Rein...
other
2
AGI_and_RL
[ 763 ]
1
2024-04-22T19:11:24Z
2024-04-22T19:11:24Z
DeepMindы подогнали интересную библиотеку для визуализации и анализа LLMок - <b>Penzai</b><br/><br/><a href="https://github.com/google-deepmind/penzai" rel="noopener" target="_blank">https://github.com/google-deepmind/penzai</a><br/><br/>Вроде как можно работать с архитектурой модельки, модифицировать уже натрейненые н...
tldr
2
AGI_and_RL
[ 764 ]
1
2024-04-24T09:40:22Z
2024-04-24T09:40:22Z
Случайно наткнулся на прикольную либку, где авторы вкручивают разные механизмы для улучшения рассуждений с ллмками: реварды, поиск и в каком-то виде ворлд моделсы.<br/>Не уверен, что это можно просто взять и использовать, но оно развивается и поразбирать отдельные механизмы можно.<br/><br/>Как понял из последних апдейт...
other
2
AGI_and_RL
[ 765 ]
1
2024-04-25T14:05:08Z
2024-04-25T14:05:08Z
<i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F8E93.png')"><b>🎓</b></i><b> — Семинар 29.</b> Curriculum Learning: выбор последовательности задач для обучения с подкреплением | Мария Нестерова<br/><br/>Завтра на семинаре выступит выпускница нашей <a href="https://cogmodel.mipt.ru/applican...
other
2
AGI_and_RL
[ 766 ]
1
2024-04-25T17:57:47Z
2024-04-25T17:57:47Z
Тут недавно статья выходила<br/><br/><b>Can Language Models Solve Olympiad Programming?</b><br/><a href="https://arxiv.org/abs/2404.10952v1" rel="noopener" target="_blank">https://arxiv.org/abs/2404.10952v1</a><br/><br/>В работе авторы представили бенчмарк USACO из 307 задачек<br/><a href="https://princeton-nlp.github....
tldr
2
AGI_and_RL
[ 767 ]
1
2024-04-26T13:03:06Z
2024-04-26T13:03:06Z
<b>Offline Actor-Critic Reinforcement Learning Scales to Large Models</b><br/><br/>В основном ресерч в сфере рл происходит на маленьких моделях пушто<br/>- и небольшие модели способны решить задачи при грамотном обучении и грамотной архитектуре (эмпирический факт), в основном это млп с релу/лики_релу и леернормой и все...
tldr
2
AGI_and_RL
[ 771 ]
1
2024-05-06T13:23:24Z
2024-05-06T13:23:24Z
И еще апдейты по AQLM:<br/><br/><b>Новые модели</b>: мы квантизовали и выложили <i>Llama-3</i> и <i>Command-R</i>. Последнюю сжали так сильно, что влезает в <i>3090</i> без оффлодинга. Актуальные чекпоинты и новые модели добавляются сюда: <a href="https://huggingface.co/collections/ISTA-DASLab/aqlm-65e8dc75b908c7d73ec3...
other
2
AGI_and_RL
[ 772 ]
1
2024-05-14T17:14:38Z
2024-05-14T17:14:38Z
<blockquote>Я обожаю Google! Нет ничего качественнее Гугла!</blockquote><br/><br/>Смотрим туть<br/><br/><a href="https://www.youtube.com/watch?v=XEzRZ35urlk" rel="noopener" target="_blank">https://www.youtube.com/watch?v=XEzRZ35urlk</a><br/><br/>* Говорят у Gemini 1.5 Pro теперь будет 2м контекст<br/>* Представили Gemi...
other
1
AGI_and_RL
[ 773 ]
1
2024-06-03T16:59:16Z
2024-06-03T16:59:16Z
Интересная выжимка по алайнменту + обзоры важных статей (есть и вполне свежие)<br/><br/>читать, сохранять. <br/><br/><a href="https://aman.ai/primers/ai/llm-alignment/" rel="noopener" target="_blank">https://aman.ai/primers/ai/llm-alignment/</a>
other
2
AGI_and_RL
[ 774 ]
1
2024-06-05T18:42:11Z
2024-06-05T18:42:11Z
Кучу наших любимых ллмок потестили на вопросиках вида:<br/><br/>"Alice has <b>N</b> brothers and she also has <b>M</b> sisters. How many sisters does Alice’s brother have?"<br/>Ответ <b>С</b> = 1+<b>M</b> (Алиса + её сестры)<br/><br/>Назвали такую задачку <b>AIW Problem</b>.<br/><br/>Всего выделили 4 варианта задачи AI...
tldr
2
AGI_and_RL
[ 775, 776 ]
2
2024-06-06T11:26:13Z
2024-06-06T11:40:36Z
<a href="https://habr.com/ru/articles/819719/" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank"><b>Мечтает ли GPT-4o о сегментации картинок...?</b></a><br/><br/>Рассказал на Habr найденный способ как заставить GPT-4o работать с детекцией объектов на картинке и выдавать координат...
other
2
AGI_and_RL
[ 777 ]
1
2024-06-06T14:13:29Z
2024-06-06T14:13:29Z
<i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F8E93.png')"><b>🎓</b></i> <b>— Семинар 34. </b>Обзор конференции ICLR | Александр Панов, Алексей Ковалёв, Алексей Скрынник, Леонид Угадяров<br/><br/>С 7 по 11 мая в Вене (Австрия) прошла конференция ICLR, которая является одной из ключевых ко...
other
2
AGI_and_RL
[ 778 ]
1
2024-06-09T08:23:28Z
2024-06-09T08:23:28Z
<i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F9A80.png')"><b>🚀</b></i> <a href="https://t.me/SBERLOGASCI" target="_blank">@SBERLOGASCI</a> webinar on data science:<br/><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F91A8E2808DF09F94AC.png')"><b>👨‍🔬</b></i...
other
2