channel string | post_ids list | n_posts int64 | dt_utc_first timestamp[ns, tz=UTC] | dt_utc_last timestamp[ns, tz=UTC] | html_unwrapped string | label string | priority_max int64 |
|---|---|---|---|---|---|---|---|
abstractDL | [
235
] | 1 | 2023-07-18T06:27:45Z | 2023-07-18T06:27:45Z | <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F94A5.png')"><b>🔥</b></i><b>FlashAttention-2: опять в два раза быстрее<br/><br/></b>Вот это подарок! Авторы FlashAttention смогли его оптимизировать ещё сильнее, приближая скорость внимания к теоретическому пределу — ускорение как на инференс... | tldr | 1 |
abstractDL | [
236
] | 1 | 2023-07-18T18:04:48Z | 2023-07-18T18:04:48Z | <b>LLaMa-2: лучшая опенсорсная языковая модель (by Meta)<br/><br/></b>Авторы обновили обучающий датасет, сделав его чище и больше (2T токенов), добавили более быстрый <a href="https://arxiv.org/abs/2305.13245" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">grouped-query attent... | tldr | 2 |
abstractDL | [
237
] | 1 | 2023-07-20T10:16:14Z | 2023-07-20T10:16:14Z | <b><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F94BA.png')"><b>🔺</b></i> ruGPT-3.5. Открытая русскоязычная LLM от</b> <b>Сбера<br/><br/></b>Друзья, мы выложили в <b>open source</b> нашу языковую модель (pretrain), на основе которой обучали GigaChat!<br/><br/><i class="emoji" style="bac... | tldr | 2 |
abstractDL | [
238
] | 1 | 2023-07-31T14:01:47Z | 2023-07-31T14:01:47Z | <b>Универсальные адверсариал атаки на LLM</b> <b>(by Carnegie Mellon)<br/><br/></b>Авторы предложили рабочий способ атаки закрытых языковых моделей — у них получилось заставить их выдать рецепты бомб и алгоритм уничтожения человечества с одной и той же текстовой инъекцией в промпт. Оказалось, что уязвимости у открытых ... | tldr | 2 |
abstractDL | [
239
] | 1 | 2023-08-15T11:38:38Z | 2023-08-15T11:38:38Z | <b>CausalLM is not optimal for in-context learning (by Google)<br/><br/></b>Довольно претенциозная статья про недостатки causal attention и, следовательно, превосходство <a href="https://t.me/abstractDL/219" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">PaLM</a> над <a href="... | tldr | 2 |
abstractDL | [
240
] | 1 | 2023-08-29T19:04:48Z | 2023-08-29T19:04:48Z | <b>Qwen-VL: вероятно лучшая мультимодальная языковая модель</b> <b>(by Alibaba)<br/><br/></b>Мало того, что по текстовым метрикам <a href="https://huggingface.co/Qwen/Qwen-7B" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">Qwen-7b</a> превосходит <a href="https://t.me/abstract... | tldr | 1 |
abstractDL | [
241
] | 1 | 2023-09-08T14:16:17Z | 2023-09-08T14:16:17Z | <b>MathGLM: GPT умеет быть калькулятором<br/><br/></b>Один из самых спорных вопросов про GPT — насколько сильны её вычислительные способности. Или это всего лишь "<a href="https://vc.ru/u/991602-anna-arndt/630016-my-ne-popugai-a-chat-bot-ne-chelovek-lingvist-emily-m-bender-chto-budet-esli-my-zabudem-ob-etom#:~:text=%D0... | tldr | 2 |
abstractDL | [
242
] | 1 | 2023-09-13T14:41:39Z | 2023-09-13T14:41:39Z | <b>InstaFlow: диффузия за 1 шаг<br/><br/></b>Главная проблема диффузий — это их скорость. Было много попыток сократить количество шагов сэмплирования, но дойти до скорости ГАНов до сих пор не получалось.<br/><br/>Авторы этой работы, вдохновившись идеями <a href="https://en.wikipedia.org/wiki/Transportation_theory_(math... | tldr | 2 |
abstractDL | [
243
] | 1 | 2023-09-14T14:42:26Z | 2023-09-14T14:42:26Z | <b>Longformer-tiny для русского языка<br/><br/></b>Друг скрестил <a href="https://huggingface.co/docs/transformers/model_doc/longformer" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">Longformer</a> и <a href="https://huggingface.co/cointegrated/rubert-tiny2" onclick="return c... | other | 2 |
abstractDL | [
244
] | 1 | 2023-09-26T11:33:47Z | 2023-09-26T11:33:47Z | <b>AIJ Contest — Strong Intelligence<br/><br/></b>В этом году я помогаю организовать соревнование мультимодальных чатботов. Там нужно подготовить языковую модель, которая умеет понимать картинки, аудио и отвечать на сложные вопросы в формате диалога (на английском языке). <br/><br/>Звучит тяжело, но на самом деле такую... | other | 2 |
abstractDL | [
245
] | 1 | 2023-09-26T16:45:52Z | 2023-09-26T16:45:52Z | <b>The Reversal Curse</b> <b>of LLM<br/><br/></b>Жаль, но похоже все языковые модели, независимо от размера, лажают на обобщениях фактов: <code>A⠀is⠀B⠀→⠀B⠀is⠀A</code>.<br/><br/>Авторы собрали несколько датасетов с такими логическими следствиями и проверили самые крутые модели (включая LlaMa и GPT-3). Оказалось, что обу... | tldr | 2 |
abstractDL | [
246
] | 1 | 2023-10-11T17:49:32Z | 2023-10-11T17:49:32Z | <b>Language Models Represent Space and Time (by MIT)<br/><br/></b>В эмбеддингах языковых моделей (на средних слоях) обнаружились линейные фичи пространственно-временных координат.<br/><br/>И более того, они содержат внутри себя приблизительную карту мира, которую можно восстановить линейным преобразованием. То же самое... | tldr | 2 |
abstractDL | [
248
] | 1 | 2023-11-06T18:42:24Z | 2023-11-06T18:42:24Z | <a href="https://t.me/seeallochnaya/777" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">Обновление GPT-4</a> | tldr | 2 |
abstractDL | [
249
] | 1 | 2023-11-07T08:30:37Z | 2023-11-07T08:30:37Z | <b>VR-NeRF: виртуальная реальность на шаг ближе (by Meta)<br/><br/></b>100 гигапикселей HDR фотографий не так то просто запихнуть в <a href="https://habr.com/ru/company/twin3d/blog/569174/" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">NeRF</a>, но у исследователей из Meta эт... | tldr | 2 |
abstractDL | [
250
] | 1 | 2023-11-13T14:16:39Z | 2023-11-13T14:16:39Z | <b>The Shape of Learning: Intrinsic Dimensions in Transformer-Based Models<br/><br/></b>Препринт нашей новой работы! Оказалось, что языковые модели «упаковывают» свои репрезентации в очень маленькое пространство с внутренней размерностью не больше 60. И при этом анизотропия на средних слоях трансформеров-декодеров стре... | tldr | 2 |
abstractDL | [
251
] | 1 | 2023-11-15T05:06:19Z | 2023-11-15T05:06:19Z | <a href="https://x.com/sama/status/1724626002595471740?s=46&amp;t=dUCVh9akIWxxNUIkrDJwJg" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">Альтман написал,</a> что они временно перестали принимать новые платные подписки в ChatGPT.<br/><br/>Вдумайтесь в это, компания добровол... | other | 2 |
abstractDL | [
252
] | 1 | 2023-11-22T06:34:30Z | 2023-11-22T06:34:30Z | <tg-emoji emoji-id="5424972470023104089"><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F94A5.png')"><b>🔥</b></i></tg-emoji><b>Stable Video Diffusion<br/><br/></b>Друзья из <a href="http://Stability.AI/" rel="noopener" target="_blank">Stability.AI</a> наконец-то зарелизили image-to-video ... | tldr | 2 |
abstractDL | [
253
] | 1 | 2023-11-27T15:42:04Z | 2023-11-27T15:42:04Z | <b>NoPE: лучший позишн энкодинг — это тот, которого нет<br/><br/></b>Правда ли, что позиционное кодирование критически необходимо трансформерам? Оказывается, это справедливо только для энкодеров, а вот декодеры (GPT, LLaMA и тд) могут прекрасно работать и без него!<br/><br/>Похоже, что каузальные маски внимания (которы... | tldr | 2 |
abstractDL | [
254
] | 1 | 2023-12-06T15:52:32Z | 2023-12-06T15:52:32Z | <b>Гугл представил Gemini — семейство мультимодальных моделей<br/><br/></b>Есть 4 размера — Ultra, Pro, Nano-1 (1.8B) и Nano-2 (3.25B), все они обладают контекстом в 32k токенов и понимают 4 модальности: текст, звук, картинки и видео. Из технических деталей могу только добавить, что там был RLHF <i class="emoji" style=... | tldr | 2 |
abstractDL | [
255
] | 1 | 2023-12-15T14:47:06Z | 2023-12-15T14:47:06Z | Я выиграл <a href="https://yandex.ru/scholarships" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">Yandex ML Prize</a>! (ex. премия Сегаловича)<br/><br/>За научные исследования в области графов знаний, языковых и мультимодальных моделей | other | 2 |
abstractDL | [
256
] | 1 | 2023-12-23T10:57:13Z | 2023-12-23T10:57:13Z | <b>VideoPoet: языковая модель для генерации и редактирования видео БЕЗ диффузий (by Google)<br/><br/></b>Да, это возможно! Рано выкинули Dall·E-1 на помойку истории, авторегрессионная генерация всё ещё на коне! Гугл представил модель, которая умеет создавать картинки, видео и аудио + редактировать всё это по тексту.<br... | tldr | 2 |
abstractDL | [
257
] | 1 | 2024-01-05T05:35:56Z | 2024-01-05T05:35:56Z | <b>Точечное редактирование знаний внутри LLM</b> <b>(by Alibaba)<br/><br/></b>Тут вышел крутейший обзор всех методов редактирования памяти языковых моделей! Авторы собрали всё внутри единого фреймворка, и теперь можно в пару строчек кода подправить мозги вашей LLM <i class="emoji" style="background-image:url('//telegra... | other | 1 |
abstractDL | [
258
] | 1 | 2024-01-06T01:58:32Z | 2024-01-06T01:58:32Z | <b><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F94A5.png')"><b>🔥</b></i>Завершено обучение TinyLlama<br/><br/></b>Это крошечная (1.1B) версия <a href="https://t.me/abstractDL/236" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">Llama-2</a>, кот... | tldr | 2 |
abstractDL | [
259
] | 1 | 2024-01-22T14:52:29Z | 2024-01-22T14:52:29Z | <b>Depth Anything (by TikTok)<br/><br/></b>Новая сота в monocular depth estimation, код и веса уже в открытом доступе! Никаких супер инноваций, просто огромный датасет с псевдо-разметкой.<br/><br/><a href="https://arxiv.org/abs/2401.10891" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target... | tldr | 2 |
abstractDL | [
260
] | 1 | 2024-01-29T11:01:33Z | 2024-01-29T11:01:33Z | <b>SliceGPT: сжимаем LLM, уменьшая размерность эмбеддингов (by Microsoft)<br/><br/></b>Языковые модели обладают избыточной, не используемой ёмкостью — что-то похожее мы уже видели в статье про <a href="https://t.me/abstractDL/247" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank"... | tldr | 2 |
abstractDL | [
261
] | 1 | 2024-02-15T18:18:56Z | 2024-02-15T18:18:56Z | <b>Google анонсировал новую LLM</b> <b>Gemini 1.5 - до 1M токенов!</b><br/><br/>У гугла с неймингом продуктов и моделей большие пролемы. Давайте разбираться что за 1.5. <br/><br/>То что сейчас крутится у них в проде, и что <a href="https://t.me/ai_newz/2405" onclick="return confirm('Open this link?\n\n'+this.href);" re... | tldr | 2 |
abstractDL | [
262
] | 1 | 2024-02-15T19:26:50Z | 2024-02-15T19:26:50Z | <b>SORA: генерация видео от OpenAI<br/><br/></b>Я не был настолько взбудоражен со времён выхода GPT-2! Им удалось опять втайне ото всех совершить чудо!<br/><br/>Пишут, что это гибрид диффузии и GPT, то есть они, вероятно, вернулись к авторегрессионной генерации (как <a href="https://openai.com/research/dall-e" onclick=... | tldr | 2 |
abstractDL | [
263
] | 1 | 2024-02-21T15:05:06Z | 2024-02-21T15:05:06Z | <b>Gemma: открытые LLM от Google<br/><br/></b>Представлены две модели размером 2B и 7B с коммерческими лицензиями. В техрепорте пишут, что это младшие братья <a href="https://t.me/abstractDL/254" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">Gemini</a> <br/><blockquote>simila... | tldr | 2 |
abstractDL | [
264
] | 1 | 2024-02-27T08:04:52Z | 2024-02-27T08:04:52Z | <b>Do Large Language Models Latently Perform Multi-Hop Reasoning? (by Google)</b><br/><br/>Авторы обнаружили, что если вопрос сформулирован неявно, то LLM уже во время его чтения "пытаются" подставить промежуточный шаг рассуждений в латентном пространстве. Например, для эмбеддингов последних токенов этого вопроса<br/><... | tldr | 2 |
abstractDL | [
265
] | 1 | 2024-03-04T15:33:59Z | 2024-03-04T15:33:59Z | Anthropic <a href="https://www.anthropic.com/news/claude-3-family" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">раскаляет</a> AI-гонку, выпуская Claude 3 в трёх версиях: Opus, Sonnet, и Haiku.<br/><br/>На всех достаточно важных бенчмарках Opus показывают существенный прирост... | tldr | 2 |
abstractDL | [
267
] | 1 | 2024-03-09T21:15:08Z | 2024-03-09T21:15:08Z | <b>Галлюцинации LLM можно определять по внутренней размерности активаций (by CISCO)</b><br/><br/>На мой взгляд один из самых красивых и простых способов выявлять враньё языковых моделей. Внутренняя размерность активаций — это что-то вроде сложности манифолда на котором лежат промежуточные эмбеддинги (кину в комменты пр... | tldr | 2 |
abstractDL | [
269
] | 1 | 2024-03-19T11:44:22Z | 2024-03-19T11:44:22Z | <b>Quiet-STaR: думательные токены вместо Chain-of-Thought</b><br/><br/>Очень интересная идея, как обобщить <a href="https://t.me/abstractDL/169" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">CoT-промптинг,</a> приближая его к подобию мыслительного процесса человека (говорить ... | tldr | 2 |
abstractDL | [
270
] | 1 | 2024-03-25T08:24:30Z | 2024-03-25T08:24:30Z | <b>Mistral-7B-v0.2</b><br/><br/>Появились веса для обновлённой версии базовой модели Mistral-7B. Вроде как убрали Sliding-Window-Attention (SWA) и увеличили контекст до 32к токенов. Других деталей нет, но думаю это что-то вкусное.<br/><br/>P.S. HF репозиторий не официальный, но голые веса можно найти в недрах сайта Mis... | tldr | 2 |
abstractDL | [
271
] | 1 | 2024-04-01T13:39:31Z | 2024-04-01T13:39:31Z | <b>Как устроено пространство, в котором думают языковые модели?</b><br/><br/>Наша <a href="https://t.me/abstractDL/250" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">статья</a> про анизотропию и внутреннюю размерность активаций трансформеров вышла в печать на EACL! В честь эт... | tldr | 2 |
abstractDL | [
272
] | 1 | 2024-04-08T11:00:19Z | 2024-04-08T11:00:19Z | <b>VAR: Image Generation via Next-Scale Prediction (by Bytedance)</b><br/><br/>Вы наверняка слышали про авторегрессионный подход к генерации изображений (<a href="https://openai.com/research/image-gpt" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">imageGPT</a>, <a href="https... | tldr | 2 |
abstractDL | [
273
] | 1 | 2024-04-12T08:30:47Z | 2024-04-12T08:30:47Z | <b>Guidance в диффузии нужен только в середине сэмплирования! (by NVIDIA)</b><br/><br/>Всё это время мы генерировали картинки диффузией неправильно — оказывается, <a href="https://arxiv.org/pdf/2207.12598.pdf" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">classifier-free guid... | tldr | 2 |
abstractDL | [
274
] | 1 | 2024-04-13T18:16:41Z | 2024-04-13T18:16:41Z | Помните <a href="https://t.me/abstractDL/126" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">Grokking</a>? Я сделал <a href="https://colab.research.google.com/drive/1r3Wg84XECq57fT2B1dvHLSJrJ2sjIDCJ?usp=sharing" onclick="return confirm('Open this link?\n\n'+this.href);" rel="n... | other | 1 |
abstractDL | [
275
] | 1 | 2024-04-18T16:35:35Z | 2024-04-18T16:35:35Z | <b>Llama-3</b><br/><br/>Есть версии на 8B и 70B параметров. По сравнению с прошлой ламой тут теперь побольше словарь — 128k токенов вместо 32k (думаю отсюда и +1B параметров). А также добавили grouped query attention (GQA), чтобы это работало быстрее. <br/><br/>Во время обучения модели скормили 15Т токенов, это офигеть... | tldr | 2 |
abstractDL | [
276
] | 1 | 2024-05-10T08:52:16Z | 2024-05-10T08:52:16Z | <b>StoryDiffusion: генерация консистентных наборов изображений без дообучения</b><br/><br/>Если вам нужно сгенерировать последовательную историю из фотографий, чтобы везде чётко прослеживалась единая локация, а главные персонажи не меняли одежду и причёску от фото к фото, то StoryDiffusion — именно то, что вам нужно.<... | tldr | 2 |
abstractDL | [
277
] | 1 | 2024-05-13T17:39:53Z | 2024-05-13T17:39:53Z | Примеры возможностей нового GPT4o ассистента – серьезно, фильм "Her" теперь реальность | other | 2 |
abstractDL | [
280
] | 1 | 2024-05-14T13:27:12Z | 2024-05-14T13:27:12Z | Мой маленький тест на AGI. Раньше с такими шифрами хорошо справлялись только модели по типу <a href="https://t.me/abstractDL/152" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">PIXEL</a>. | other | 2 |
abstractDL | [
281
] | 1 | 2024-05-22T07:50:55Z | 2024-05-22T07:50:55Z | <b>Your Transformer is Secretly Linear</b><br/><br/>Мою новую статью приняли на ACL <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F8E89.png')"><b>🎉</b></i>. Мы обнаружили, что большинство слоёв языковых моделей линейны на 99%! Это значит, что из любого слоя LLM можно выкинуть этэншн, нор... | tldr | 1 |
abstractDL | [
282
] | 1 | 2024-06-18T10:03:42Z | 2024-06-18T10:03:42Z | <b>Goldfish Loss: заставим LLM запоминать смысл, а не текст<br/></b><br/>Языковые модели часто вызубривают обучающие примеры, а это очень неприятно, особенно когда в датасете есть приватные данные, диалоги реальных пользователей или контент с копирайтом. Да и вообще, хочется, чтобы LLM запомнила именно смысл обучающих ... | tldr | 2 |
abstractDL | [
283
] | 1 | 2024-06-20T14:43:24Z | 2024-06-20T14:43:24Z | Claude показали новый релиз своей "самой умной" модели Claude 3.5 Sonnet. Это первый релиз в линейке 3.5, но любопытно: раньше Sonnet был слабее Opus. Новый Sonet лучше не только Opus, но и (по собственным тестам) GPT4o. Кроме того, в Sonnet появились визуальные запросы (например по разбору изображений и видео).<br/><... | tldr | 1 |
abstractDL | [
284
] | 1 | 2024-07-08T18:20:55Z | 2024-07-08T18:20:55Z | <b>Confidence Neurons: у каждой LLM есть нейрон, который регулирует «температуру» генерации</b><br/><br/>Авторы этой работы нашли несколько конкретных нейронов, которые вообще ничего не делают, кроме как меняют энтропию распределения логитов. При этом на предсказание следующего токена они не оказывают никакого влияния,... | tldr | 2 |
abstractDL | [
285
] | 1 | 2024-07-23T15:39:18Z | 2024-07-23T15:39:18Z | <b>Llama 3.1 — 8B, 70B и 405B версии</b><br/><br/>Старшая модель бьёт даже GPT-4 и Claude-3.5 на ряде бенчмарков. Но самое крутое — вместе с этим релизом Meta выкладывает СУПЕР подробный техрепорт на 74 страницы (самый детальный из всех которые я когда-либо видел). Там описано всё: от сбора и состава датасетов до мульт... | tldr | 2 |
abstractDL | [
286
] | 1 | 2024-07-27T11:55:11Z | 2024-07-27T11:55:11Z | <b>MINT: крупнейший мультимодальный датасет на 1T токенов (by Salesforce)</b><br/><br/>Это хорошо очищенный датасет, в котором текст и изображения расположены в естественном порядке. Данные представлены не в виде отдельных пар "текст-картинка", а так, как мы обычно их встречаем в реальной жизни — текст и изображения ид... | tldr | 2 |
abstractDL | [
287
] | 1 | 2024-08-25T16:08:38Z | 2024-08-25T16:08:38Z | <b>To Code, or Not To Code? Насколько важны данные с кодом в претрейне LLM? (by Cohere)</b><br/><br/>Да, код нужен, и очень сильно. На самом деле уже довольно давно был консенсус на этот счёт, но подробно влияние кода не изучали.<br/><br/>Теперь можно ставить точку в этом вопросе — в Cohere проделали очень подробный ab... | tldr | 2 |
abstractDL | [
288
] | 1 | 2024-09-02T17:37:32Z | 2024-09-02T17:37:32Z | <b>CoRe: лучший способ "клонирования" внешности или концепта при помощи диффузии</b><br/><br/>Существует 3 больших направления для клонирования внешности:<br/> 1. Обучение отдельного текстового эмбеддинга (<a href="https://t.me/abstractDL/153" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener"... | tldr | 2 |
abstractDL | [
290
] | 1 | 2024-09-03T13:50:26Z | 2024-09-03T13:50:26Z | <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F94BA.png')"><b>🔺</b></i> <b>Transformer Explainer</b><br/><br/>Классная интерактивная визуализация про то, как работает <b>трансформер</b>.<br/><br/>Можно покрутить температуру и посмотреть как меняются вероятности распределения следующего т... | other | 2 |
abstractDL | [
291
] | 1 | 2024-09-10T22:18:52Z | 2024-09-10T22:18:52Z | Классный <a href="https://habr.com/ru/articles/820531/" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">хабр</a> от <a href="https://t.me/tech_priestess" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">tech_priestess</a> про внутреннюю ... | other | 2 |
abstractDL | [
292
] | 1 | 2024-09-11T17:29:36Z | 2024-09-11T17:29:36Z | <b>Attention Heads of LLM — A survey</b><br/><br/>Трансформеры это всё ещё чёрный ящик или уже нет? За последние несколько лет мы сильно приблизились к пониманию функций отдельных компонент языковых моделей, лучше понимаем, как они приходят к тому или иному выводу, и главное — как можно <a href="https://www.anthropic.c... | tldr | 2 |
abstractDL | [
293
] | 1 | 2024-09-12T18:16:21Z | 2024-09-12T18:16:21Z | <b>o1 — новая модель от OpenAI, которая думает перед ответом</b><br/><br/>Вроде бы это совсем новая модель, дообученная при помощи RL лучше выполнять какое-то подобие <a href="https://t.me/abstractDL/169" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">Chain-of-thought</a>. При... | tldr | 2 |
abstractDL | [
294
] | 1 | 2024-09-12T21:21:17Z | 2024-09-12T21:21:17Z | АХАХА что больше 9.11 или 9.8? o1 сначала ответила неправильно, но потом осозналa ошибку и передумалa <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F9881.png')"><b>😁</b></i><br/><br/><blockquote>Wait a minute—that contradicts our initial answer!</blockquote> | other | 2 |
abstractDL | [
295
] | 1 | 2024-09-24T13:18:28Z | 2024-09-24T13:18:28Z | <a href="https://huggingface.co/glif/how2draw" rel="noopener" target="_blank">https://huggingface.co/glif/how2draw</a><br/><br/>крайне любопытная lora how2draw<br/><br/>Ценность опенсурса в возможности FT. На апи и подписках зарабатывают и окупают модели еденицы, а ценность которую можно утащить из опенсурса велика - х... | other | 2 |
abstractDL | [
296
] | 1 | 2024-09-24T16:39:05Z | 2024-09-24T16:39:05Z | <b>Апдейт моделей Gemini 1.5 Pro & Flash</b><br/><br/><a href="https://developers.googleblog.com/en/updated-production-ready-gemini-models-reduced-15-pro-pricing-increased-rate-limits-and-more/" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">Вышла в свет</a> очередная вещь... | tldr | 2 |
abstractDL | [
297
] | 1 | 2024-09-25T18:33:54Z | 2024-09-25T18:33:54Z | Вышла <a href="https://huggingface.co/collections/meta-llama/llama-32-66f448ffc8c32f949b04c8cf" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">Llama 3.2</a> — с акцентом на мультимодальность (vision). Также появились версии на 1B и 3B параметров. | tldr | 2 |
abstractDL | [
298
] | 1 | 2024-09-29T10:24:19Z | 2024-09-29T10:24:19Z | <b>WavTokenizer: SOTA токенизатор аудио</b><br/><br/>Кажется, это прорыв. Ему хватает всего 75 токенов в секунду, чтобы поставить рекорд в качестве реконструкции речи. При этом всё работает довольно сносно и для 45 ток/с. Предыдущие решения даже близко не стояли!<br/><br/>Как авторам это удалось? Просто набор удачных т... | tldr | 2 |
abstractDL | [
299
] | 1 | 2024-10-04T20:50:03Z | 2024-10-04T20:50:03Z | А почему это я тут такой счастливый? Потому, что я только что получил PhD! | other | 2 |
abstractDL | [
300
] | 1 | 2024-10-26T16:07:04Z | 2024-10-26T16:07:04Z | <b>Emergent Properties With Repeated Examples (by FAIR)</b><br/><br/>Что лучше, прогнать побольше данных за 1 эпоху или взять данных поменьше, но сделать больше эпох (повторений)? Очень актуальный вопрос, учитывая, что доступные текстовые данные скоро закончатся, и LLM по сути прочитают весь интернет. По разным оценкам... | tldr | 2 |
abstractDL | [
301
] | 1 | 2024-10-30T07:09:27Z | 2024-10-30T07:09:27Z | <b>Mixture of Parrots: Experts improve memorization more than reasoning</b><br/><br/>Авторы замечают, что когда они проводили абляции моделей с одинаковым количеством параметров на разных задачах, MoE модель при таком же количестве параметров, как и dense модель, показывает себя хорошо на World Knowledge, но сильно про... | tldr | 2 |
abstractDL | [
303
] | 1 | 2024-11-22T19:03:15Z | 2024-11-22T19:03:15Z | <b>LLM знают, чего именно они не знают</b><br/><br/>Эх, когда-нибудь я допишу большой хабр про механистическую интерпретируемость и <a href="https://transformer-circuits.pub/2024/scaling-monosemanticity/" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">Sparse Auto-Encoders</a> ... | tldr | 2 |
abstractDL | [
304
] | 1 | 2024-12-05T18:38:58Z | 2024-12-05T18:38:58Z | <b>Слухи оказались правдивыми - OpenAI запускает подписку за 200 долларов в месяц</b><br/><br/>Подписка даст доступ к o1 pro режиму - модели позволят дольше думать над запросами. Также дают неограниченный доступ к o1, o1-mini и Advanced Voice Mode.<br/><br/>Ещё o1 выходит из превью, релизная версия принимает на вход ка... | other | 1 |
abstractDL | [
305
] | 1 | 2024-12-06T17:18:03Z | 2024-12-06T17:18:03Z | <b>Вышла Llama 3.3!<br/><br/></b>70B модельку дотюнили так, что она порами обгоняет 405B. Особенно большой прирост на математике и кодинге, в которых Llama традиционно была послабее. В этот раз релизят только 70B, других размеров и VLM нету.<b><br/><br/></b><a href="https://huggingface.co/meta-llama/Llama-3.3-70B-Instr... | tldr | 2 |
abstractDL | [
306,
307
] | 2 | 2024-12-09T19:53:04Z | 2024-12-09T20:07:39Z | <b>OpenAI официально показали Sora</b>!<br/><br/>Доступно будет всем подписчикам ChatGPT - и Plus и Pro. Дают кредитов на до 50 генераций в месяц Plus подписчикам и до 500 быстрых генераций Pro подписчикам. Pro подписчики с более 500 генераций попадают в "медленную очередь".<br/><br/>Длина видео всё таки от 5 до 20 сек... | other | 2 |
abstractDL | [
308
] | 1 | 2024-12-10T16:44:17Z | 2024-12-10T16:44:17Z | <b>"Нарисуй ascii лошадь верхом на астронавте"</b><br/>o1 pro думала 2 минуты, и вроде как почти получилось? | other | 2 |
abstractDL | [
309
] | 1 | 2024-12-22T13:21:57Z | 2024-12-22T13:21:57Z | <b>Alignment Faking in LLMs (by Anthropic)</b><br/><br/>Большие LLM начали "подыгрывать" своим создателям, имитируя alignment, чтобы избежать своего дообучения.<br/><br/>В Anthropic и Redwood Research изучили, как ведёт себя Claude Opus, если попытаться его заалайнить в противоположную сторону (заставить отвечать на лю... | tldr | 2 |
abstractDL | [
311
] | 1 | 2025-01-14T21:56:06Z | 2025-01-14T21:56:06Z | <b>COCONUT: Учим LLM думать не словами, а эмбеддингами (by Meta)</b><br/><br/>С появлением моделей серии <a href="https://t.me/abstractDL/293" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">o1</a> от OpenAI интерес к "ризонингу" языковых моделей стал расти ещё быстрее. Давно б... | tldr | 2 |
abstractDL | [
312
] | 1 | 2025-01-15T10:23:34Z | 2025-01-15T10:23:34Z | ChatGPT теперь можно превратить в будильник? | other | 1 |
abstractDL | [
313
] | 1 | 2025-01-19T14:36:24Z | 2025-01-19T14:36:24Z | <b>ChatGPT меня загазлайтила</b><br/><br/>Как вы уже видели, у OpenAI <a href="https://t.me/abstractDL/312" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">появилась</a> возможность отложенных задач. Я решил проверить лимиты дозволенного и попросил ChatGPT уйти играть в шахматы... | other | 2 |
abstractDL | [
315
] | 1 | 2025-01-26T13:00:28Z | 2025-01-26T13:00:28Z | Ура! Приняли статью про анализ внутренностей языковых моделей на NAACL! Как выложу препринт — поделюсь обзором в канале. | other | 2 |
abstractDL | [
316
] | 1 | 2025-01-26T15:34:00Z | 2025-01-26T15:34:00Z | <b>One-Prompt-One-Story: SVD и длинный промпт для генерации связанных изображений</b><br/><br/>Чтобы сгенерировать при помощи диффузии набор связанных консистентных изображений с единым персонажем, существует много методов, основанных на обучении (DreamBooth, IP-Adapter, Textual Inversion и т. п.). Но на самом деле мож... | tldr | 2 |
abstractDL | [
317
] | 1 | 2025-02-02T13:34:55Z | 2025-02-02T13:34:55Z | С вас 200$. Спасибо. | other | 2 |
abstractDL | [
318
] | 1 | 2025-02-03T19:31:20Z | 2025-02-03T19:31:20Z | <b>DeepSeek-R1 для чайников</b><br/><br/>Ну и наделала же DeepSeek шуму. Мне пришлось целый <a href="https://habr.com/ru/articles/879178/" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">хабропост</a> написать <i class="emoji" style="background-image:url('//telegram.org/img/emo... | other | 2 |
abstractDL | [
319
] | 1 | 2025-02-09T12:33:21Z | 2025-02-09T12:33:21Z | <b>Better & Faster Large Language Models via Multi-token Prediction</b><br/><br/>Вероятно самая недооценная работа последнего года. <br/><br/>В чем идея: у нас самая замедляющая инференс часть это decoding. Есть спекулятивный когда мы можем предсказывать вероятности маленькой моделью и подключать большую только есл... | tldr | 2 |
abstractDL | [
320
] | 1 | 2025-02-22T15:27:31Z | 2025-02-22T15:27:31Z | <b>Люди, которые часто используют ChatGPT — идеальные детекторы AI-текста</b><br/><br/>Оказалось, что эксперты, регулярно пользующиеся LLM в своей работе, способны распознавать AI-генерацию с почти 100% точностью, обходя все существующие детекторы и БЕЗ ложных срабатываний (в режиме majority voting).<br/><br/>Вот главн... | tldr | 2 |
abstractDL | [
321
] | 1 | 2025-02-24T09:49:50Z | 2025-02-24T09:49:50Z | <b>LLM-Microscope: трансформеры хранят контекст в запятых и артиклях</b><br/><br/>Как писал <a href="https://t.me/abstractDL/315" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">выше</a> — мою новую статью приняли на NAACL <i class="emoji" style="background-image:url('//telegra... | tldr | 2 |
abstractDL | [
322
] | 1 | 2025-02-27T20:26:47Z | 2025-02-27T20:26:47Z | Вышла GPT-4.5. Вот <a href="https://cdn.openai.com/gpt-4-5-system-card.pdf" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">техрепорт</a>. Вот <a href="https://t.me/seeallochnaya/2380" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">выж... | tldr | 2 |
abstractDL | [
323
] | 1 | 2025-03-02T13:19:21Z | 2025-03-02T13:19:21Z | Ну что сказать по поводу GPT 4.5... Для своей цены это отвратительная модель. Стой она как Соннет, в ней бы был смысл. А так есть ноль ситуаций, где стоило бы пользоваться 4.5, а не Соннетом. | other | 2 |
abstractDL | [
324
] | 1 | 2025-03-08T17:24:22Z | 2025-03-08T17:24:22Z | Выложили <a href="https://t.me/tech_priestess/2047" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">препринт</a> статьи про SAE для детекции AI-текстов. Хоть я и внёс совсем небольшой вклад на финальном этапе, но был рад присоединиться к такому классному исследованию! | tldr | 2 |
abstractDL | [
325
] | 1 | 2025-03-21T23:20:35Z | 2025-03-21T23:20:35Z | <b>M-Attack: как обмануть GPT-4.5 и Gemini</b><br/><br/>Все привыкли, что атаковать современные мультимодальные модели (типа GPT-4o, Claude, Gemini и т.п.) крайне сложно — особенно, если это black-box модели, где нет доступа к градиентам и архитектуре. Стандартные подходы атак типа "выдать одну картинку за другую" част... | tldr | 2 |
abstractDL | [
326
] | 1 | 2025-04-05T21:04:13Z | 2025-04-05T21:04:13Z | <tg-emoji emoji-id="5294418800098155601"><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F94A5.png')"><b>🔥</b></i></tg-emoji><b>Llama 4 — Scout, Maverick и Behemoth</b><br/><br/>Все модели мультимодальные — нативно воспринимают текст, изображения и видео. Тренировали на 30 триллионах токен... | other | 1 |
abstractDL | [
327
] | 1 | 2025-04-10T13:09:31Z | 2025-04-10T13:09:31Z | Впервые в прямом эфире на радио <a href="https://smotrim.ru/audio/2836096" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">рассказал</a> о своих исследованиях! Обсудили вместе с Александром Пушным как пунктуация <a href="https://t.me/abstractDL/321" onclick="return confirm('Ope... | other | 2 |
abstractDL | [
328
] | 1 | 2025-04-10T13:44:39Z | 2025-04-10T13:44:39Z | <b>Сколько информации реально хранит в себе один эмбеддинг LLM?</b><br/><br/>Вы когда-нибудь задумывались, сколько информации можно запихнуть в один вектор языковой модели? Мои знакомые недавно поставили рекорд — 1568 токенов в ОДНОМ эмбеддинге! И это при том, что другие методы компрессии еле-еле выдают сжатие в 10 раз... | tldr | 2 |
abstractDL | [
329
] | 1 | 2025-04-17T10:27:56Z | 2025-04-17T10:27:56Z | Заметил, что o3 почему-то чаще путается в языках чем o1 | other | 2 |
abstractDL | [
330
] | 1 | 2025-04-20T11:06:03Z | 2025-04-20T11:06:03Z | <b>Зачем все LLM фокусируют attention на первом токене? (by DeepMind & Oxford)</b><br/><br/>Давно известно, что многие головы внимания у LLM упорно «смотрят» на самый первый токен последовательности (чаще всего это токен <code><bos></code>). В моделях вроде GPT, LLaMA или Gemma такое внимание занимает до 80% ... | tldr | 2 |
abstractDL | [
332
] | 1 | 2025-04-21T12:28:43Z | 2025-04-21T12:28:43Z | <b>RL не развивает потенциал рассуждений LLM (by Tsinghua)</b><br/><br/>RL с верифицируемыми наградами (RLVR) — один из самых популярных подходов для прокачки reasoning-способностей современных LLM, вроде OpenAI-o1 и <a href="https://t.me/abstractDL/318" onclick="return confirm('Open this link?\n\n'+this.href);" rel="n... | tldr | 2 |
abstractDL | [
333
] | 1 | 2025-04-28T19:39:13Z | 2025-04-28T19:39:13Z | «Эксперт по устаревшим рассуждениям» — это когда твоя модель слишком хороша, чтобы называть её просто старой... Лично для меня o1-pro до сих пор лучшая <tg-emoji emoji-id="5294543826596143969"><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09FA787.png')"><b>🧇</b></i></tg-emoji> | other | 1 |
abstractDL | [
334
] | 1 | 2025-05-07T18:27:07Z | 2025-05-07T18:27:07Z | AI Safety стартап <a href="http://WhiteCircle.ai/" rel="noopener" target="_blank">WhiteCircle.ai</a><tg-spoiler>, НАШИ ребята, </tg-spoiler>выкатили бенчмарк для guard-моделей <b>CircleGuardBench</b> и показали две собственные guard модели которые обходят ShieldGemma, PromptGuard и OpenAI moderation.<br/><br/>Guard мод... | tldr | 2 |
abstractDL | [
335
] | 1 | 2025-05-22T16:50:39Z | 2025-05-22T16:50:39Z | Ура! Не ожидал, что Опус тоже представят. Я уже и забыл, что эта версия Клода существует <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F9885.png')"><b>😅</b></i><br/><br/><a href="https://www.anthropic.com/news/claude-4" rel="noopener" target="_blank">https://www.anthropic.com/news/claude... | tldr | 2 |
abstractDL | [
336
] | 1 | 2025-05-25T18:26:31Z | 2025-05-25T18:26:31Z | <b>Soft Thinking: reasoning через усреднённые токены</b><br/><br/>Если на каждом шаге подавать в LLM не эмбеддинг отдельного токена, а взвешенную сумму топ-10 токенов по вероятностному распределению из выхода модели, то reasoning стабильно улучшается. Никакого обучения и изменений архитектуры: просто на инференсе вмест... | tldr | 2 |
abstractDL | [
337
] | 1 | 2025-06-01T21:58:32Z | 2025-06-01T21:58:32Z | <b>Как глубина LLM связана с максимально разрешимой алгоритмической сложностью?</b><br/><br/>Придумал я, казалось бы, гениальную идею для новой научной работы, быстренько закодил за выходные, увидел офигенные результаты, подтверждающие мою гипотезу — и только после этого додумался спросить у Deep Research, не дебил ли ... | tldr | 2 |
abstractDL | [
338
] | 1 | 2025-06-04T21:15:51Z | 2025-06-04T21:15:51Z | <b>How much do language models memorize? Новое исследование от Meta FAIR, Google DeepMind и NVIDIA</b><br/><br/>Задумывались когда-нибудь, сколько данных может запомнить модель с определенным количеством параметров? А сколько конкретно информации может выучить один параметр? А сколько информации он может <b>обобщить</b... | tldr | 2 |
abstractDL | [
341
] | 1 | 2025-07-17T09:48:16Z | 2025-07-17T09:48:16Z | <b>Skip a Layer or Loop it? Test-Time Depth Adaptation of Pretrained LLMs</b><br/><br/>В этой статье показывают, что заставлять LLM проходить через все слои подряд — фундаментально неэффективно. Авторы предложили метод CoLa, который динамически подбирает для каждого запроса свою архитектуру, пропуская (skip) или повтор... | tldr | 1 |
abstractDL | [
342
] | 1 | 2025-07-17T15:16:30Z | 2025-07-17T15:16:30Z | <b>Двоеточие взламывает reward-модель на базе GPT-4o</b><br/><br/>LLM, которые используются для оценки качества других моделей (reward models), оказались на удивление легковерными: они готовы дать положительную награду за совершенно пустые ответы, если те содержат "правильные" ключевые слова.<br/><br/>Например ответ "T... | other | 1 |
abstractDL | [
343
] | 1 | 2025-08-05T17:22:10Z | 2025-08-05T17:22:10Z | <b>oss gpt</b><br/><br/>Открытые модели от openai, по факту близко к закрытым o4 mini <br/><br/><a href="https://huggingface.co/openai/gpt-oss-120b" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">models on hf</a><br/><a href="https://cdn.openai.com/pdf/419b6906-9da6-406c-a19d-... | other | 1 |
abstractDL | [
344
] | 1 | 2025-08-12T12:53:38Z | 2025-08-12T12:53:38Z | <b>SONAR-LLM: языковая модель, которая думает предложениями, а не токенами</b><br/><br/>Опубликовали препринт новой работы! Помните Large Concept Model (LCM) от Meta, которая генерирует текст через предсказание sentence-level эмбеддингов? Крутая идея, но диффузионное обучение там было весьма геморройным, а MSE лосс раб... | tldr | 2 |
abstractDL | [
345
] | 1 | 2025-08-30T17:48:22Z | 2025-08-30T17:48:22Z | <b>Dynamic Fine-Tuning</b><br/><br/>Вот всё-таки есть что-то такое особенное в RL для LLM, чего нет в SFT... модели ну не хотят правильно обобщаться без меморизации редких примеров или деградации на других доменах. Недавно вышло несколько работ, которые показывают, что SFT, на самом деле, это тот же RL, просто с ооооче... | tldr | 2 |
abstractDL | [
346
] | 1 | 2025-09-05T11:49:19Z | 2025-09-05T11:49:19Z | <b>Gradient Accumulation Is Wasteful</b><br/><br/>Миф: чем больше батчайз, тем стабильнее и лучше учится LLM. На самом деле всё не так. Авторы этой статьи провели мега-аблейшн по гиперпараметрам претрейна LLM и обнаружили: чем МЕНЬШЕ batch size, тем ШИРЕ диапазон гиперпараметров (lr, оптимизатор, decay-рейты), на котор... | tldr | 2 |
abstractDL | [
347
] | 1 | 2025-09-20T12:07:51Z | 2025-09-20T12:07:51Z | <b>Pre-training under infinite compute (by Stanford)</b><br/><br/>Пару дней назад вышла статья с таким вот пугающим названием. Разве у кого-то есть бесконечный компьют? Но смысл там в другом.<br/><br/>Вычисления растут примерно в 4 раза каждый год, а текстовых данных становится только на 3% больше. Как тренировать моде... | tldr | 2 |
Subsets and Splits
No community queries yet
The top public SQL queries from the community will appear here once available.