channel string | post_ids list | n_posts int64 | dt_utc_first timestamp[ns, tz=UTC] | dt_utc_last timestamp[ns, tz=UTC] | html_unwrapped string | label string | priority_max int64 |
|---|---|---|---|---|---|---|---|
abstractDL | [
111
] | 1 | 2021-12-05T10:43:05Z | 2021-12-05T10:43:05Z | <b>Dream Fields: Zero-Shot Text-Guided 3D Object Generation (by Google)</b><br/><br/>Что будет, если скрестить <a href="https://habr.com/ru/company/twin3d/blog/569174/" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">NeRF</a> и <a href="https://t.me/abstractDL/52" onclick="retu... | tldr | 2 |
abstractDL | [
112
] | 1 | 2021-12-06T11:46:28Z | 2021-12-06T11:46:28Z | <b>FuseDream: Новая SOTA в генерации картинок по тексту</b><br/><br/>Напомню, картинки из текста <a href="https://t.me/abstractDL/35" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">можно</a> генерировать с помощью связки <a href="https://t.me/abstractDL/52" onclick="return con... | tldr | 2 |
abstractDL | [
113
] | 1 | 2021-12-06T15:50:02Z | 2021-12-06T15:50:02Z | Завернул код для <a href="https://t.me/abstractDL/112" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">FuseDream</a> в colab ноутбук (<a href="https://colab.research.google.com/drive/190tKQf0aFj-Hi8STUrLc2m4DeOviv7NO?usp=sharing" onclick="return confirm('Open this link?\n\n'+th... | other | 2 |
abstractDL | [
114
] | 1 | 2021-12-08T08:20:39Z | 2021-12-08T08:20:39Z | К статье про <a href="https://t.me/abstractDL/110" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">MTTR</a> (сегментация видео по тексту) выложили colab ноутбук!<br/><br/><a href="https://colab.research.google.com/drive/12p0jpSx3pJNfZk-y_L44yeHZlhsKVra-?usp=sharing" onclick="re... | other | 1 |
abstractDL | [
115
] | 1 | 2021-12-09T07:50:07Z | 2021-12-09T07:50:07Z | DeepMind вчера <a href="https://deepmind.com/blog/article/language-modelling-at-scale" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">выпустили</a> сетку Gopher на 280 <i>миллиардов</i> параметров (что впечатляет). Судя по их же примерам в релизе, Gopher очень хорошо может отв... | tldr | 2 |
abstractDL | [
116
] | 1 | 2021-12-15T17:00:53Z | 2021-12-15T17:00:53Z | <b>Wikidata — 10 миллиардов структурированных фактов</b><br/><br/>Сегодня я решил вам рассказать про такую классную штуку, как <a href="https://www.wikidata.org/wiki/Wikidata:Main_Page" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">Wikidata</a>. Это громадная база знаний, при... | other | 2 |
abstractDL | [
117
] | 1 | 2021-12-16T17:52:52Z | 2021-12-16T17:52:52Z | Короче да, perciver теперь доступен из Huggingface, а значит эпоха мултимодальности не за горами<br/><a href="https://huggingface.co/blog/perceiver" rel="noopener" target="_blank">https://huggingface.co/blog/perceiver</a> | other | 2 |
abstractDL | [
119
] | 1 | 2021-12-21T10:24:14Z | 2021-12-21T10:24:14Z | <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F94A5.png')"><b>🔥</b></i><b>Генерация изображений выходит на новый уровень: GLIDE<br/></b><br/>GLIDE - это закономерное развитие модели DALL-E от OpenAI. Только теперь вместо GAN-ов, архитектура GLIDE основана на diffussion denoising моделях,... | tldr | 2 |
abstractDL | [
121
] | 1 | 2021-12-27T12:46:54Z | 2021-12-27T12:46:54Z | <b>XGLM: кросс</b>-<b>язычный аналог GPT-3 от Meta AI</b><br/><br/>Наконец появилась по-настоящему мультиязычная языковая модель! Формально <a href="https://arxiv.org/abs/2005.14165" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">GPT-3</a> тоже понимает много языков, но обучаю... | tldr | 2 |
abstractDL | [
122
] | 1 | 2021-12-30T15:22:13Z | 2021-12-30T15:22:13Z | Включил <a href="https://telegram.org/blog/reactions-spoilers-translations/ru" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">реакции</a> к постам <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F918D.png')"><b>👍</b></i><i class="emoji" style="bac... | other | 2 |
abstractDL | [
123
] | 1 | 2022-01-04T10:18:57Z | 2022-01-04T10:18:57Z | <b>The Illustrated Retrieval Transformer</b><br/><a href="http://jalammar.github.io/illustrated-retrieval-transformer/" rel="noopener" target="_blank">jalammar.github.io/illustrated-retrieval-transformer/</a><br/><br/>Мы уже обозревали RETRO в <a href="https://t.me/dlinnlp/1243" onclick="return confirm('Open this link?... | other | 1 |
abstractDL | [
124
] | 1 | 2022-01-04T14:58:07Z | 2022-01-04T14:58:07Z | <b>GPT для чайников: от токенизации до файнтюнинга</b><br/><br/>Сделал для вас небольшой <a href="https://colab.research.google.com/drive/1sD_hQJOi3CrHn7Ba-XuKkHRToxDRRSof?usp=sharing" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">colab туториал</a> про GPT. Там подробно и с ... | other | 2 |
abstractDL | [
125
] | 1 | 2022-01-10T15:00:47Z | 2022-01-10T15:00:47Z | <b>DeepPavlov выложил в открытый доступ DREAM — платформу для создания чатботов</b><br/><br/>Если вы хотите сделать свою Siri или Алексу, то DREAM — это то что вам нужно. Тут в одном месте собраны десятки ml-решений для «оркестрирования» скиллами бота, извлечения признаков из сообщений пользователей и многое другое. Дл... | tldr | 2 |
abstractDL | [
126
] | 1 | 2022-01-16T17:40:56Z | 2022-01-16T17:40:56Z | <b>Grokking: оверфиттинг это ещё не конец (by OpenAI)</b><br/><br/>Все мы знаем, что если обучающих данных мало, то модель скорее всего заоверфиттится, запомнив весь датасет. Но оказалось, что если в этот момент не останавливать обучение и продолжать его даже при нулевой ошибке на трейне, то через какое-то время нейрон... | tldr | 2 |
abstractDL | [
127
] | 1 | 2022-01-21T17:23:02Z | 2022-01-21T17:23:02Z | <b>data2vec: Self-supervised Learning in Speech, Vision and Language (by Meta AI)</b><br/><br/>Картинки, звук, текст — три основные модальности данных. Большинство исследований концентрируются на какой-то одной из них: <a href="https://arxiv.org/abs/2010.11929" onclick="return confirm('Open this link?\n\n'+this.href);"... | tldr | 2 |
abstractDL | [
128
] | 1 | 2022-01-22T10:04:57Z | 2022-01-22T10:04:57Z | <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F94A5.png')"><b>🔥</b></i><b>Туториалы от Hugging Face</b><br/><br/>Это просто бомба! Тут в одном месте (<a href="https://huggingface.co/tasks" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">тык</a>) ... | other | 2 |
abstractDL | [
129
] | 1 | 2022-01-27T12:40:03Z | 2022-01-27T12:40:03Z | <b>ShiftViT: An Extremely Simple Alternative to Attention Mechanism</b><br/><br/>Мелкософт говорит, что селф-атеншен больше не нужен в задачах зрения. Предлагают вместо него просто каналы случайно подвигать в плоскости картинки. <br/><br/>Судя по всему, это должно работать быстрее. По результатам точность на Imagenet п... | tldr | 2 |
abstractDL | [
130
] | 1 | 2022-01-27T22:08:18Z | 2022-01-27T22:08:18Z | <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F94A5.png')"><b>🔥</b></i><b>InstructGPT: новое поколение GPT от OpenAI</b><br/><br/>Архитектурно это всё та же <a href="https://arxiv.org/abs/2005.14165" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank... | tldr | 2 |
abstractDL | [
132
] | 1 | 2022-02-04T16:41:29Z | 2022-02-04T16:41:29Z | <b>Соревнование по анализу аргументации антиковидных мер</b><br/><br/>Мои друзья из Сколтеха запустили соревнование про ковид. Там нужно научить модель определять позицию автора текста про вакцинацию и разделять аргументы (за/против) из комментариев. <br/><br/>В качестве обучающих данных есть размеченный датасет из 900... | other | 2 |
abstractDL | [
133
] | 1 | 2022-02-07T17:30:51Z | 2022-02-07T17:30:51Z | <b>GPT + RL = Decision Making</b><br/><br/>Это гениально! Ребята из гугла показали, как с помощью RL можно научить <a href="https://d4mucfpksywv.cloudfront.net/better-language-models/language_models_are_unsupervised_multitask_learners.pdf" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target... | tldr | 2 |
abstractDL | [
134
] | 1 | 2022-02-11T13:08:01Z | 2022-02-11T13:08:01Z | <b>OFA: нужно лишь спросить</b><br/><br/>One For All — мультимодальная модель от Alibaba, которая умеет решать практически все CV-NLP задачи:<br/> - text2image generating<br/> - image captioning<br/> - image inpainting<br/> - VQA<br/> - object detection<br/> - NLU<br/><br/>Мало того, что она побила ку... | tldr | 2 |
abstractDL | [
135
] | 1 | 2022-02-11T19:35:53Z | 2022-02-11T19:35:53Z | <b>Ускорение диффузионных моделей </b><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F94A5.png')"><b>🔥</b></i><br/><br/>Еее! Вышла <a href="https://openreview.net/forum?id=PlKWVd2yBkY" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">статья</a>, ко... | tldr | 2 |
abstractDL | [
136
] | 1 | 2022-02-14T07:54:38Z | 2022-02-14T07:54:38Z | Дошла очередь и до скетч-артистов. <br/>Сетка генерит скетчи с заданным количеством линий на основе картинок.<br/><br/><a href="https://clipasso.github.io/clipasso/" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">Подробнее<br/></a><a href="https://clipasso.github.io/clipasso/s... | tldr | 2 |
abstractDL | [
138,
139,
140
] | 3 | 2022-06-18T15:52:09Z | 2022-06-18T15:52:50Z | <b>Fais ce que dois, advienne, que pourra</b> — пора снова писать про нейронки, а новостей накопилось много:<br/> - <a href="https://t.me/abstractDL/139" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">Chinchilla</a><br/> - <a href="https://t.me/abstractDL/140" onclick="r... | other | 2 |
abstractDL | [
143
] | 1 | 2022-06-19T15:26:29Z | 2022-06-19T15:26:29Z | <b>30-миллиардная модель OPT теперь доступна на Hugging Face!</b><br/><br/>Можно в несколько строк запустить самую большую и умную из доступных на сегодня языковых моделей <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09FA497.png')"><b>🤗</b></i><br/><br/><a href="https://arxiv.org/pdf/2205... | tldr | 2 |
abstractDL | [
144,
145
] | 2 | 2022-06-20T14:40:26Z | 2022-06-20T14:40:46Z | Удобный <a href="https://rom1504.github.io/clip-retrieval/?back=https%3A%2F%2Fknn5.laion.ai&amp;index=laion5B&amp;useMclip=false&amp;query=cyberpunk+portrait+digital+" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">интерфейс</a> к text-image датасетам LAION 400m и ... | other | 2 |
abstractDL | [
146
] | 1 | 2022-06-23T08:59:28Z | 2022-06-23T08:59:28Z | <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F94A5.png')"><b>🔥</b></i><b>Яндекс выложил YaLM 100B</b><br/><br/>Cейчас это крупнейшая GPT-подобная нейросеть в свободном доступе. Она обучалась 65 дней на 1,7 ТБ текстов на 800 видеокартах A100. На хабре можно почитать подробности её обучен... | other | 1 |
abstractDL | [
147
] | 1 | 2022-06-27T11:09:24Z | 2022-06-27T11:09:24Z | <b>Недообученные нейросети — лучшие feature экстракторы</b><br/><br/>К удивительному выводу пришли две независимые группы исследователей из Google и Baidu — чем дольше учить нейронную сеть, тем хуже выразительная способность её фичей. То есть, не смотря на рост top-1 accuracy по мере обучения, качество её репрезентаций... | tldr | 2 |
abstractDL | [
148
] | 1 | 2022-06-28T11:11:50Z | 2022-06-28T11:11:50Z | <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F94A5.png')"><b>🔥</b></i><b>В OpenAI научили нейронку играть в майнкрафт</b> <b>по видео из интернета</b><br/><br/>Их модель демонстрирует human-level перформанс и даже сама научилась создавать <a href="https://minecraft.fandom.com/ru/wiki/%D... | tldr | 1 |
abstractDL | [
149
] | 1 | 2022-06-29T17:01:37Z | 2022-06-29T17:01:37Z | <b>Typical sampling: идеальный метод генерации текста</b><br/><br/>Языковые модели (например <a href="https://t.me/abstractDL/124" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">GPT</a>) предсказывают распределение вероятностей следующего токена, но способов генерации текста и... | tldr | 2 |
abstractDL | [
150
] | 1 | 2022-07-01T16:30:42Z | 2022-07-01T16:30:42Z | Вау! Посмотрите как умеет <a href="https://openai.com/dall-e-2/" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">DALL·E</a> <a href="https://openai.com/dall-e-2/" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">2</a>! А это всего лишь п... | other | 2 |
abstractDL | [
151
] | 1 | 2022-07-06T15:18:11Z | 2022-07-06T15:18:11Z | <b>Мета выпустила переводчик на 200 языков.</b><br/><br/>Зацените новый прорыв Меты в области машинного перевода, о котором только что объявил Марк Цукерберг. Они создали и выложили в открытый доступ модель, с громким названием <i>No language left behind (Ни один язык не останется за бортом)</i>, которая переводит с 20... | tldr | 2 |
abstractDL | [
152
] | 1 | 2022-07-17T12:45:43Z | 2022-07-17T12:45:43Z | <b>Language Modeling with Pixels</b><br/><br/>А что будет, если учить нейронную сеть понимать текст по скриншотам? Оказалось, что такая модель будет работать ничуть не хуже, чем <a href="https://arxiv.org/abs/1810.04805" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">BERT</a>,... | tldr | 2 |
abstractDL | [
153
] | 1 | 2022-08-06T18:28:25Z | 2022-08-06T18:28:25Z | <b>An Image is Worth One Word: превращение картинок в псевдо-слова для использования в text2image</b><br/><br/>Некоторые концепты сложно выразить существующими словами, их проще показать на примерах. Поэтому в Nvidia предложили использовать гениальный и простой трюк — превращать картинки в «псевдо-слова», а точнее, нах... | tldr | 2 |
abstractDL | [
154
] | 1 | 2022-08-12T17:53:52Z | 2022-08-12T17:53:52Z | <b>BlenderBot 3: лучший в мире чатбот (by Meta)</b><br/><br/>Встречайте третью версию чатбота от лидера в сфере Conversational AI! В нём собраны все последние разработки фейсбука:<br/> - Умение гуглить.<br/> - Долговременная память фактов о себе и юзере.<br/> - Safety (не грубит, к суициду не приглашает).<br/>... | tldr | 2 |
abstractDL | [
155
] | 1 | 2022-08-20T12:33:47Z | 2022-08-20T12:33:47Z | <b>Multimodal Learning with Transformers: A Survey</b><br/><br/>Все любят миксы <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F9881.png')"><b>😁</b></i>, особенно миксы разных модальностей при обучении сетей, например текст и фото, видео и аудио и т.д.. Из комбинации сигналов разных модал... | tldr | 2 |
abstractDL | [
157
] | 1 | 2022-08-23T13:52:43Z | 2022-08-23T13:52:43Z | <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F94A5.png')"><b>🔥</b></i><b>BEiT-3: Image as a Foreign Language (by Microsoft)</b><br/><br/>Представлена новая мультимодальная Foundation модель, которая побила сразу 12 рекордов! (см. картинку) <br/><br/>Секрет успеха прост — нужно токенизир... | tldr | 1 |
abstractDL | [
158
] | 1 | 2022-08-30T20:19:02Z | 2022-08-30T20:19:02Z | <b>Мудрость древнего Китая и щепотка нейронной магии — встречайте Нейро Конфуция!</b><br/><br/>Вы уже не ждали, а я доделал замену старому чатботу. Теперь снова есть с кем поболтать <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F9281E2808DE29982.png')"><b>💁♂️</b></i><br/><br/><a href="h... | other | 2 |
abstractDL | [
159
] | 1 | 2022-09-08T07:53:46Z | 2022-09-08T07:53:46Z | Диффузионные модели начинают занимать лидирующую позицию и в задаче Motion Generation.<br/><br/><a href="https://arxiv.org/pdf/2208.15001.pdf" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank"><b>MotionDiffuse: Text-Driven Human Motion Generation with Diffusion Model</b></a><b><b... | tldr | 2 |
abstractDL | [
160
] | 1 | 2022-09-15T08:33:28Z | 2022-09-15T08:33:28Z | <b>Diffusion Models: A Comprehensive Survey</b><br/><br/>Отличная обзорная статья с таксономией диффузионных моделей и всех видов сэмплирования. Тут даже есть сравнение диффузии с остальными генеративными подходами (см. картинку).<br/><br/><a href="https://arxiv.org/pdf/2209.00796.pdf" onclick="return confirm('Open thi... | tldr | 2 |
abstractDL | [
161
] | 1 | 2022-09-19T08:09:24Z | 2022-09-19T08:09:24Z | <b>Charl-E: Text2image on your Mac</b><br/><br/><a href="https://stability.ai/blog/stable-diffusion-public-release" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">Stable Diffusion</a> завернули в удобное оффлайн приложение для Mac с M1/M2. Теперь можно генерить картинки у себя... | other | 2 |
abstractDL | [
162
] | 1 | 2022-09-20T11:11:00Z | 2022-09-20T11:11:00Z | <b>No language left behind<br/></b><a href="?q=%23nlp">#nlp</a> <a href="?q=%23%D0%BF%D1%80%D0%BE_nlp">#про_nlp</a><br/><br/>Достаточно тихо прошел важный релиз: Allen AI выложили датасет, воспроизведенный по одному из самых больших проектов по переводу: No language left behind<br/><br/>Суммарно 450Gb параллельных прим... | tldr | 2 |
abstractDL | [
164
] | 1 | 2022-09-30T14:23:38Z | 2022-09-30T14:23:38Z | Нашёл максимально компактный обзор всех RL-подходов (<a href="https://arxiv.org/pdf/2209.14940.pdf" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">тык</a>) | tldr | 2 |
abstractDL | [
165
] | 1 | 2022-10-02T19:02:56Z | 2022-10-02T19:02:56Z | <b>FusionDream: Text-to-3D (by Google)</b><br/><br/>Помните <a href="https://t.me/abstractDL/111" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">Dream Fields</a>? Это была первая попытка zero-shot генерации 3D объектов по тексту. Недавно те же самые рисёрчеры сильно апгрейднул... | tldr | 2 |
abstractDL | [
166
] | 1 | 2022-10-03T20:16:19Z | 2022-10-03T20:16:19Z | <b>SayCan: как заставить языковую модель принести тебе колу (by Google)</b><br/><br/>Идея довольно простая: нужно взять робота, который уже умеет выполнять примитивные команды (найти, поднять, положить и тд), а в качестве мозгов для планирования взять языковую модель (<a href="https://ai.googleblog.com/2022/04/pathways... | tldr | 2 |
abstractDL | [
167
] | 1 | 2022-10-04T18:50:57Z | 2022-10-04T18:50:57Z | <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F94A5.png')"><b>🔥</b></i><b>Grokking наконец обнаружили на нормальных датасетах! (by MIT)</b><br/><br/>И для этого даже не пришлось тратить миллиарды GPU-часов и покупать атомную электростанцию.<br/><br/>Чтобы воспроизвести эффект генерализац... | tldr | 2 |
abstractDL | [
168
] | 1 | 2022-10-05T20:42:21Z | 2022-10-05T20:42:21Z | <b>Imagen Video</b><br/><br/>У гугла получилось адаптировать <a href="https://t.me/abstractDL/142" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">Imagen</a> для генерации видео! <br/><br/>Авторам пришлось немного переделать UNet и подмешать 14М пар text-video к датасету <a hre... | tldr | 2 |
abstractDL | [
169
] | 1 | 2022-11-01T19:08:30Z | 2022-11-01T19:08:30Z | <b>Chain-of-Thought: дайте GPT поразмышлять перед ответом! (by Google)</b><br/><br/>Большинство промптов для zero-shot нацелены на немедленное получение ответа, но оказалось, если дать языковой модели «поразмышлять вслух» над задачей, то вероятность правильного решения значительно повышается.<br/><br/>Теперь это кажетс... | tldr | 2 |
abstractDL | [
170,
171
] | 2 | 2022-11-08T11:23:52Z | 2022-11-08T11:45:17Z | <b>FusionBrain Challenge 2.0</b><br/><br/>Мои друзья из AIRI запустили соревнование по созданию универсальной multi-task модели, которая должна решать любую задачу в image&text доменах. Причём переключение задач должно осуществляться текстом (как в <a href="https://t.me/abstractDL/134" onclick="return confirm('Open... | other | 2 |
abstractDL | [
172
] | 1 | 2022-11-09T08:33:51Z | 2022-11-09T08:33:51Z | <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F94A5.png')"><b>🔥</b></i><b>Embedding Diffusion for Text Generation (by DeepMind)</b><br/><br/>Наконец у кого-то получилось применить диффузию для генерации текста.<br/><br/>В качестве базовой модели используется оригинальный <a href="https:/... | tldr | 2 |
abstractDL | [
173
] | 1 | 2022-11-10T06:12:16Z | 2022-11-10T06:12:16Z | <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F94A5.png')"><b>🔥</b></i><b>Draw things: диффузия на iPhone!</b><br/><br/><a href="https://stability.ai/blog/stable-diffusion-public-release" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">Stable Dif... | other | 2 |
abstractDL | [
174
] | 1 | 2022-11-15T03:54:58Z | 2022-11-15T03:54:58Z | <b>OneFormer: One Transformer to Rule Universal Image Segmentation<br/></b><br/>Нам в компьютерном зрении давно нужен такой трансформер, который порешает все задачи за раз. Вот ступенька в этом направлении. OneFormer – это первый трансформер, который умеет решать три разных задачи сегментации : semantic, instance и pan... | tldr | 2 |
abstractDL | [
176
] | 1 | 2022-11-15T10:32:44Z | 2022-11-15T10:32:44Z | <b>MinD-Vis: диффузия для чтения мыслей</b><br/><br/>Представлена диффузионная модель, которая умеет декодировать то, что видит человек по его мозговой активности (<a href="https://ru.wikipedia.org/wiki/%D0%A4%D1%83%D0%BD%D0%BA%D1%86%D0%B8%D0%BE%D0%BD%D0%B0%D0%BB%D1%8C%D0%BD%D0%B0%D1%8F_%D0%BC%D0%B0%D0%B3%D0%BD%D0%B8%D... | tldr | 2 |
abstractDL | [
177
] | 1 | 2022-11-17T15:04:00Z | 2022-11-17T15:04:00Z | <b>Galactica general-purpose scientific language model<br/></b><br/>Meta AI и Paperswithcode зарелизили первую 120B модель, которая обучена на научных текстах (статьи, учебники и тд.). <br/><br/><i>Сейчас быстро все дипломные работы допишутся<i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F... | other | 1 |
abstractDL | [
178
] | 1 | 2022-11-23T14:32:17Z | 2022-11-23T14:32:17Z | <b>Kandinsky 2.0: первая мультиязычная диффузия! (by AIRI, SberAI</b>, <b>SberDevices)</b><br/><br/>Встречайте первую text2image модель для более чем 100 языков! Основано на архитектуре <a href="https://arxiv.org/pdf/2112.10752.pdf" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blan... | tldr | 2 |
abstractDL | [
179,
180
] | 2 | 2022-12-01T07:04:26Z | 2022-12-01T07:15:41Z | Совсем недавно вышла бета версия библиотеки TorchMultimodal (<a href="https://pytorch.org/blog/introducing-torchmultimodal/" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">ссылка</a>), в которой авторы постарались собрать все лучшие техники и фичи обучения SoTA мультизадачных ... | tldr | 2 |
abstractDL | [
181
] | 1 | 2022-12-02T06:33:32Z | 2022-12-02T06:33:32Z | <a href="https://twitter.com/sergeyi49013776/status/1598430479878856737?s=46&amp;t=XpTTnkC35iAp_En54LEMkg" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">Тут</a> прогнали <a href="https://t.me/abstractDL/180" onclick="return confirm('Open this link?\n\n'+this.href);" rel="... | other | 2 |
abstractDL | [
182
] | 1 | 2022-12-27T10:17:18Z | 2022-12-27T10:17:18Z | <b>GPT тайно файнтюнит</b> <b>себя через attention во время инференса (by Microsoft)</b><br/><br/>Авторы немного поколдовали над формулами этэншна и смогли свести их к <a href="https://ru.wikipedia.org/wiki/%D0%A1%D1%82%D0%BE%D1%85%D0%B0%D1%81%D1%82%D0%B8%D1%87%D0%B5%D1%81%D0%BA%D0%B8%D0%B9_%D0%B3%D1%80%D0%B0%D0%B4%D0%... | tldr | 2 |
abstractDL | [
183
] | 1 | 2022-12-30T08:41:05Z | 2022-12-30T08:41:05Z | А вы знали, что <a href="https://beta.openai.com/tokenizer" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">GPT-3</a> токенизирует русский язык просто отвратительно? Тут токенов больше чем букв! Я конечно очень люблю <a href="https://huggingface.co/docs/transformers/tokenizer_s... | other | 2 |
abstractDL | [
185
] | 1 | 2023-01-17T19:21:02Z | 2023-01-17T19:21:02Z | <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F94BA.png')"><b>🔺</b></i> <b>Let's build (chat)GPT<br/><br/></b>Новое видео от Андрея Карпати. На этот раз с нуля собираем <b>GPT</b> (генеративную языковую модель) в <b>colab'е</b>. Также на пальцах рассказывается, что такое <b>ChatGPT</b>.<... | tldr | 1 |
abstractDL | [
186
] | 1 | 2023-01-26T06:49:05Z | 2023-01-26T06:49:05Z | <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09FA497.png')"><b>🤗</b></i><b>Illustrated Reinforcement Learning from Human Feedback (RLHF)</b><br/><br/>Отличный блог-пост от HuggingFace с разбором RL для файнтюна языковых моделей (<a href="https://t.me/abstractDL/118" onclick="return confir... | other | 2 |
abstractDL | [
187
] | 1 | 2023-02-19T11:35:59Z | 2023-02-19T11:35:59Z | <b>FROMAGe: самый простой способ сделать мультимодального чатбота</b><br/><br/>Авторам потребовалось всего 24 часа чтобы на 1 GPU обучить это чудо! Идея очень похожа на <a href="https://t.me/abstractDL/140" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">Flamingo</a>, но ещё пр... | tldr | 2 |
abstractDL | [
188
] | 1 | 2023-02-21T14:41:06Z | 2023-02-21T14:41:06Z | <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F94A5.png')"><b>🔥</b></i><b>FlexGen:</b> <b>как запустить OPT-175B на своём ноутбуке</b><br/><br/>Просто восторг! <a href="https://t.me/abstractDL/143" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">... | tldr | 2 |
abstractDL | [
189
] | 1 | 2023-03-02T08:22:53Z | 2023-03-02T08:22:53Z | <b>GPT теперь принимает на вход эмбеддинги</b><br/><br/>Наконец! В <code>transformers</code> добавлена поддержка эмбеддингов в качестве инпута для полноценной генерации в GPT-like моделях.<br/><br/>За последние годы вышло много работ, которые предлагают использовать этот механизм для таких штук как <a href="https://t.m... | other | 2 |
abstractDL | [
190
] | 1 | 2023-03-14T14:30:34Z | 2023-03-14T14:30:34Z | <b>ESDx:</b> <b>Как заставить диффузию забыть порно?</b> <b>(by MIT)</b><br/><br/>Представлен метод, который позволяет удалять память про концепты, объекты и даже целые стили из диффузионных моделей без последствий для качества генерации.<br/><br/>Авторы предлагают адаптировать идеи <a href="https://arxiv.org/pdf/2207.... | tldr | 2 |
abstractDL | [
191,
192
] | 2 | 2023-03-14T16:53:05Z | 2023-03-14T17:12:27Z | Ждём GPT-4 сегодня?
<i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F94A5.png')"><b>🔥</b></i><a href="https://openai.com/research/gpt-4" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank"><b>GPT-4 вышла</b></a><b>!</b> <a href="https://openai.com/res... | other | 2 |
abstractDL | [
193
] | 1 | 2023-03-15T11:29:32Z | 2023-03-15T11:29:32Z | <b>Саммари техрепорта про GPT-4</b><br/><br/>Если отложить в сторону шутки про отсутствие архитектурных деталей — в статье всё равно есть несколько интересных моментов.<br/><br/>Модель училась в два этапа: претрейнинг + <a href="https://t.me/abstractDL/186" onclick="return confirm('Open this link?\n\n'+this.href);" rel... | tldr | 2 |
abstractDL | [
194
] | 1 | 2023-03-17T18:12:22Z | 2023-03-17T18:12:22Z | <b>PyTorch 2.0 release</b><br/><a href="https://deploy-preview-1313--pytorch-dot-org-preview.netlify.app/get-started/pytorch-2.0/#accelerating-hugging-face-and-timm-models-with-pytorch-20" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">Блог</a><br/><a href="https://github.com/... | tldr | 2 |
abstractDL | [
197
] | 1 | 2023-03-20T07:02:21Z | 2023-03-20T07:02:21Z | <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/E29AA1.png')"><b>⚡️</b></i><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/E29AA1.png')"><b>⚡️</b></i><i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/E29AA1.png')"><b>⚡️</b></i><b>VideoFusion<br... | tldr | 2 |
abstractDL | [
198
] | 1 | 2023-03-27T17:18:42Z | 2023-03-27T17:18:42Z | <b>Memorizing Transformers: как добавить в GPT долговременную память (by Google)</b><br/><br/>Вы думали, что 260 000 токенов это что-то невозможное для этэншна? А вот и нет, оказывается, если приделать <a href="https://towardsdatascience.com/comprehensive-guide-to-approximate-nearest-neighbors-algorithms-8b94f057d6b6" ... | tldr | 2 |
abstractDL | [
199
] | 1 | 2023-04-02T10:17:39Z | 2023-04-02T10:17:39Z | <b>IQ GPT-4 равен 111</b><br/><br/>Проверил IQ у chatGPT (<a href="https://t.me/abstractDL/192" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">GPT-4</a>) на <a href="http://psychtests.com/" rel="noopener" target="_blank">psychtests.com</a> (и заплатил за это 7 долларов). Я не ... | other | 2 |
abstractDL | [
200
] | 1 | 2023-04-02T12:56:57Z | 2023-04-02T12:56:57Z | <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F94BA.png')"><b>🔺</b></i> <b>Transformer models: an introduction and catalog<br/><br/></b>Если путаетесь в обилии трансформерных моделей, то вот вам <b>обзор</b>.<br/><br/><i class="emoji" style="background-image:url('//telegram.org/img/emoji... | tldr | 2 |
abstractDL | [
201
] | 1 | 2023-04-04T09:02:49Z | 2023-04-04T09:02:49Z | <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F94A5.png')"><b>🔥</b></i><b>Kandinsky 2.1: новая</b> <b>опенсорсная диффузия!<br/><br/></b>Это гибрид <a href="https://openai.com/dall-e-2/" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">DallE-2</a>... | tldr | 2 |
abstractDL | [
206
] | 1 | 2023-04-10T20:52:19Z | 2023-04-10T20:52:19Z | <b>Segment Anything</b><br/><br/>Meta представила крутейшую и полностью открытую модель для сегментации изображений. Говорят, что она претендует на роль GPT в мире CV. Моя знакомая написала <a href="https://teletype.in/@atmyre/hrnsBpXZMll" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target... | other | 2 |
abstractDL | [
207
] | 1 | 2023-04-11T09:36:56Z | 2023-04-11T09:36:56Z | Смотрите какую красоту сгенерировал с помощью <a href="https://t.me/abstractDL/201" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">Кандинского</a> <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/E298BA.png')"><b>☺️</b></i><br/><br/>А тем временем у на... | other | 2 |
abstractDL | [
208
] | 1 | 2023-04-17T13:49:02Z | 2023-04-17T13:49:02Z | <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F94A5.png')"><b>🔥</b></i><b>MiniGPT-4: почти как GPT-4, но всего 13B параметров</b><br/><br/>Оказалось, если соединить LLaMA (<a href="https://vicuna.lmsys.org/" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target... | tldr | 2 |
abstractDL | [
210
] | 1 | 2023-04-18T11:23:35Z | 2023-04-18T11:23:35Z | <b>Visual Instruction Tuning: как нагенерить визуальные диалоги не обладая зрением (by Microsoft)</b><br/><br/>Это какое-то читерство! Совсем не обязательно видеть картинки, чтобы генерировать по ним сложные инструктивные диалоги — достаточно подать в <a href="https://t.me/abstractDL/180" onclick="return confirm('Open ... | tldr | 2 |
abstractDL | [
211
] | 1 | 2023-04-26T06:44:59Z | 2023-04-26T06:44:59Z | <b>Дропаут ускоряет обучение глубоких моделей</b> <b>(by META)<br/><br/></b>Раньше считалось, что с дропаутом лосс наоборот падает медленнее, и это своего рода цена за спасение от переобучения — но оказалось, что это не так.<br/><br/>Eсли применять дропаут только в самом начале обучения, а потом отключать, то можно не ... | tldr | 2 |
abstractDL | [
212
] | 1 | 2023-04-27T06:24:30Z | 2023-04-27T06:24:30Z | <b>Почему Adam иногда взрывается при обучении больших LM? (by META)</b><br/><br/>Очень тяжело учить гигантские языковые модели, к примеру, <a href="https://ai.googleblog.com/2022/04/pathways-language-model-palm-scaling-to.html" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">Pa... | tldr | 2 |
abstractDL | [
213
] | 1 | 2023-04-27T10:12:41Z | 2023-04-27T10:12:41Z | <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F94A5.png')"><b>🔥</b></i><b>DeepFloyd IF</b>: новая text-2-image модель<br/><br/>StablityAI выпустили новую модель, которая очень похожа на Imagen от Google, но работает лучше и в open-source.<br/><br/>Архитектура IF, как и у <a href="https:/... | tldr | 2 |
abstractDL | [
214
] | 1 | 2023-04-28T14:27:58Z | 2023-04-28T14:27:58Z | Очень красивая шпаргалка по всем языковым моделям (от word2vec до ChatGPT)<br/><br/><a href="https://arxiv.org/abs/2304.13712" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">Статья</a>, <a href="https://github.com/Mooler0410/LLMsPracticalGuide" onclick="return confirm('Open th... | tldr | 2 |
abstractDL | [
215
] | 1 | 2023-05-02T06:25:29Z | 2023-05-02T06:25:29Z | <b>Emergent Abilities of LLM — это всего лишь иллюзия (by Stanford)</b><br/><br/>Последнее время много говорят про <i>эмерджентность</i> гигантских языковых моделей — мол, некоторые их свойства <tg-spoiler>(проблески сознания <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F9882.png')"><b>�... | tldr | 2 |
abstractDL | [
216
] | 1 | 2023-05-03T18:49:30Z | 2023-05-03T18:49:30Z | <a href="https://t.me/neural_chat_bot" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">Нейро Конфуций</a> стал понимать картинки! Ещё я сделал его ответы чуть более конкретными и добавил работу в групповых чатах <i class="emoji" style="background-image:url('//telegram.org/img/e... | other | 2 |
abstractDL | [
217
] | 1 | 2023-05-04T07:44:41Z | 2023-05-04T07:44:41Z | <b>Deep learning models might be secretly (almost) linear<br/></b><br/>Линейные модели обычно сильно ограничены в своих возможностях, поэтому в нейронки всегда добавляются слои активации (<a href="https://habr.com/ru/articles/727506/" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_bl... | other | 2 |
abstractDL | [
218
] | 1 | 2023-05-10T11:57:40Z | 2023-05-10T11:57:40Z | <b>Wikipedia-based Image Text Datasets</b> <b>(by Google)</b><br/><br/>Представлены два крупнейших чистых мультимодальных датасета: WIT и WikiWeb2M — они содержат полные страницы википедии со всеми картинками, структурированным текстом и метадатой (37M изображений и 1.8М страниц). <br/><br/>Они идеально подходят для об... | tldr | 2 |
abstractDL | [
219
] | 1 | 2023-05-10T17:36:49Z | 2023-05-10T17:36:49Z | К слову, на Google I/O только что анонсировали обновление <a href="https://bard.google.com/" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">Bard</a> — теперь он базируется на <a href="https://ai.google/discover/palm2/" onclick="return confirm('Open this link?\n\n'+this.href);"... | tldr | 2 |
abstractDL | [
220
] | 1 | 2023-05-13T06:19:04Z | 2023-05-13T06:19:04Z | <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F94A5.png')"><b>🔥</b></i><b>СhatGPT+ теперь имеет доступ в интернет!</b><br/><br/>Нужно зайти в настройки и включить beta features. Я проверил, всё уже работает!<br/><br/>P.S. А у кого-то сегодня даже плагины появились (не у меня).<br/><br/><... | other | 2 |
abstractDL | [
221
] | 1 | 2023-05-16T16:09:50Z | 2023-05-16T16:09:50Z | <b>DarkBERT:</b> <b>A Language Model for the Dark Side of the Internet</b><br/><br/>Пока в EU пытаются <a href="https://t.me/addmeto/5375" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">зарегулировать</a> AI вусмерть — в Южной Корее учат DarkBERT.<br/><br/>Ничего особенного, п... | tldr | 2 |
abstractDL | [
222
] | 1 | 2023-05-22T11:13:51Z | 2023-05-22T11:13:51Z | <b>TinyStories: The Smallest GPT with Coherent English (by Microsoft)</b><br/><br/>Как думаете, с какого размера у LM появляется возможность писать связный текст? Оказалось, что и 2.5M параметров достаточно!<br/><br/>Главное препятствие для полноценного понимания языка у трансформеров — огромное количество редких слов ... | tldr | 2 |
abstractDL | [
223
] | 1 | 2023-05-26T06:53:58Z | 2023-05-26T06:53:58Z | <i class="emoji" style="background-image:url('//telegram.org/img/emoji/40/F09F94A5.png')"><b>🔥</b></i><b>QLoRA: Зафайнтюнить 30B модель в колабе? Легко!</b><br/><br/>Гениальная и удивительно простая идея лежит в основе этого подхода. Если мы тюним только <a href="https://huggingface.co/docs/diffusers/main/en/training/... | tldr | 2 |
abstractDL | [
224
] | 1 | 2023-06-04T14:55:22Z | 2023-06-04T14:55:22Z | <b>Skoltech<br/></b><br/>Три года назад я закончил Сколтех, и поступить туда — было лучшим решением в моей жизни. Настолько захватывающее и современное обучение стало для меня шоком, особенно после МГУ.<br/><br/>Так что, если кто-то из подписчиков думает про IT магистратуру — обязательно посмотрите в сторону <a href="h... | other | 2 |
abstractDL | [
225
] | 1 | 2023-06-10T14:40:35Z | 2023-06-10T14:40:35Z | <b>MEMIT:</b> <b>Где именно GPT хранит свои знания? (by MIT)</b><br/><br/>Оказалось, что память у трансформеров <a href="https://arxiv.org/abs/2012.14913" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">находится в feed-forward</a> части, а точнее в последнем слое некоторых MLP... | tldr | 2 |
abstractDL | [
227
] | 1 | 2023-06-22T10:16:54Z | 2023-06-22T10:16:54Z | <b>Direct Preference Optimization: Your Language Model is Secretly a Reward Model</b><br/><a href="http://arxiv.org/abs/2305.18290" rel="noopener" target="_blank">arxiv.org/abs/2305.18290</a><br/><br/>Интересная статья, которая предлагает делать RLHF без RL. Используя пару математических трюков, можно показать что при ... | tldr | 2 |
abstractDL | [
228
] | 1 | 2023-06-27T18:45:26Z | 2023-06-27T18:45:26Z | <b>LightGlue: Local Feature Matching at Light Speed</b> <b>(by Microsoft)</b><br/><br/>Появилась новая SOTA по качеству и скорости для сопоставления изображений. <br/><br/>Выравнивание происходит при помощи трансформера, который матчит эмбеддинги ключевых точек (<a href="https://arxiv.org/abs/1712.07629" onclick="retur... | tldr | 2 |
abstractDL | [
229
] | 1 | 2023-06-28T17:51:21Z | 2023-06-28T17:51:21Z | <b>The Little Book of Deep Learning</b><br/> <br/>Карманная книга по DL от профессора из Женевского Университета François Fleuret. Всего <b>160 страниц</b> размером с экран телефона, где очень <b>ёмко описываются основные принципы Глубокого Обучения с отличными иллюстрациями</b>.<br/><br/>Классно подойдёт для того чтоб... | other | 2 |
abstractDL | [
230
] | 1 | 2023-06-29T12:16:08Z | 2023-06-29T12:16:08Z | Обнаружил что-то странное, чатгпт игнорирует всё, что похоже на спецтокены. Наверное, это защита от одного из векторов атаки на модель. | other | 2 |
abstractDL | [
231
] | 1 | 2023-07-04T17:48:09Z | 2023-07-04T17:48:09Z | <b>Найдена причина всплесков в активациях трансформеров (by Qualcomm)<br/><br/></b>Как же тяжело квантовать трансформеры (fp32→int8). Столько всего <a href="https://t.me/abstractDL/223" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">придумали</a>, лишь бы спастись от аутлаеров... | other | 1 |
abstractDL | [
232
] | 1 | 2023-07-10T09:59:42Z | 2023-07-10T09:59:42Z | <b>LongNet: Scaling Transformers to 1,000,000,000 Tokens (by Microsoft)<br/><br/></b>Тут придумали новый <i>sparse attention</i>, который позволил обучить трансформер с длиной контекста в МИЛЛИАРД токенов. А ведь совсем недавно мы <a href="https://t.me/abstractDL/198" onclick="return confirm('Open this link?\n\n'+this.... | tldr | 2 |
abstractDL | [
233
] | 1 | 2023-07-11T09:36:53Z | 2023-07-11T09:36:53Z | <b>ChatGPT Fails on Simple Questions (by Skoltech & Me)<br/><br/></b>Есть такой старенький бенчмарк с простыми вопросами по википедии (так и называется <a href="https://github.com/KGQA/leaderboard/blob/gh-pages/wikidata/simple_questions_wikidata.md" onclick="return confirm('Open this link?\n\n'+this.href);" rel="no... | tldr | 2 |
abstractDL | [
234
] | 1 | 2023-07-12T12:42:34Z | 2023-07-12T12:42:34Z | <b>Kandinsky 2.2<br/><br/></b>Благодаря более крупному картиночному энкодеру (<a href="https://huggingface.co/laion/CLIP-ViT-bigG-14-laion2B-39B-b160k" onclick="return confirm('Open this link?\n\n'+this.href);" rel="noopener" target="_blank">CLIP-ViT-G</a>) у нас получилось сильно забустить как качество генерации изобр... | other | 1 |
Subsets and Splits
No community queries yet
The top public SQL queries from the community will appear here once available.