Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks
Paper • 1908.10084 • Published • 15
How to use adugeen/authorship-e5-base with sentence-transformers:
from sentence_transformers import SentenceTransformer
model = SentenceTransformer("adugeen/authorship-e5-base")
sentences = [
"query: Печенеги отступали. Они могли запросто убить оставшегося позади князя Владимира, мальчишку и старика, но получили приказ - уходить. Куря - печенежский хан, проигравший бой с князем, был смертельно ранен.\nВоины забрали его и вернулись на прежнее место стоянки, где были оставлены обозы с провиантом и разбит временный лагерь. Гийяр не отходил от отца ни на шаг, надеясь не то на чудо, не то на лекарей. Ведь кроме него у мальчишки никого не было. Мать он потерял ещё совсем крохой.\nКуря был властным и жестоким правителем. К сыну относился хорошо, но никогда не баловал. Для Гийяра отец всегда был идеалом, многие завидовали его решимости и хитроумию. \"Власть держится на страхе\" - часто говорил он. Но теперь он находился между жизнью и смертью. И чёрная чаша весов была намного тяжелее...\nВеликий хан умер ночью, не приходя в сознание.\nПарень понимал, что вынужден стать следующим ханом, ведь по линии отца у него больше родственников не было. Но это значило одно. Снова совершать набеги на Киев и Новгород, продолжать дело Кури, а значит - обернуться против своих друзей, поступить подло по отношению к князю, Алекше и Оленьке. А есть ли у него выбор?\nДа. И сейчас это его выбор. Отец не подскажет ему, не поможет, не укажет верный путь. Да и не послушал бы Гийяр его. Он никогда не сможет стать таким жестоким, как отец. Но теперь мальчик понимал, откуда тот черпал свою ненависть, злость, обиду и жажду крови. У него никогда не было настоящего друга, который смог бы подставить плечо, дать дружеский совет. Несмотря на орды подчинённых ему печенегов и хазар, отец был одинок. Не ставил никого рядом с собой, унижал, жестоко наказывал воинов, заслужив тем самым \"страх и уважение\". Так считал он сам. И такой позиции придерживались печенеги...\nА Гийяр? Алекша спас ему жизнь, не зная, что тот враг. А когда узнал, разве захотел убить его? Ведь печенеги сожгли его деревню и убили дедушку.\nНо Гийяр не мог понять, как вообще такое возможно. То ли христианину так и полагается, молча переносить все невзгоды, что посылает ему судьба, то ли русский дух настолько силён, что не может опускаться до мести. Не понимал..., а жажда мести разгоралась в его душе. Оленька... Храбрая девчушка с чёлкой и длинной светлой косой... Нет! О ней даже не думай!\nОн должен наказать убийцу отца, даже если тот сам, обманутый Кривжей, ввязался в бой. И тут же сердце возражало. \"Так нельзя\".\nТы ведь уже принял решение. Там, на поле боя, когда отец проиграл. Ты остановил разъяренных печенегов, готовых разорвать ненавистного князя Владимира. А чудной дед и мальчишка? Помешали бы они этому? Нет.\nРазве парень мог сказать такие слова?\nПеред глазами снова появляется та картина.\nМолодой князь ударил Курю мечом и выбил из седла. Мальчик бросается к отцу. Орда печенегов уже не сдерживает коней, рвущихся к бою. Ещё секунда, и они сорвутся с места. Поляна обагрится кровью.\n\"Нет! -останавливает их Гийяр. - Это был честный поединок. Уходим!\"\nВоины нехотя, но послушно разворачивают коней.\nПочему они послушали его? Он ведь не хан. Ответ один. Они доверяют ему. Как и его отцу.\nТак что же делать?\nГлупый мальчишка. Ты всё решил. Ты возглавишь печенежский союз племён, но не посмеешь напасть на Киевскую Русь.\nГийяр вышел из шатра. Кругом, куда не посмотри выстроилось войско. В ожидании молодого хана они перешёптывались, спорили, ругались. Но тут все разом замолчали. Они были готовы услышать решение Гийяра.\n- Слушайте! Печенеги- свободные воины! -голос мальчика не дрогнул.- Вы можете следовать за мной, а можете примкнуть к кангарам! Я же считаю, что мы должны разбить половцев, которые давно зарятся на наши земли! Кто со мной?!\nОтветом было одобрительное и дружное \"Ура!\"\nПеченеги ушли с русской земли, но не навсегда. Через какое-то время они вернулись с новым ханом, чтобы ввязаться в междоусобную войну между Ярославом Мудрым и Святополком Окаянным, на стороне последнего.",
"query: http://vk.com/audio?performer=1&q=Hollywood%20Undead%20Coming%20Back%20Down\nПустые улицы большого города, что освещались утренним солнцем. На переулках встречались редкие прохожие, которые с удивлением смотрели на полураздетого парня, шагающего вдоль улиц Магнолии.\n\"Сумасшедший,\"- подумают многие, но разве это неправда? Нет, это, правда, это чистейшая, правда, которая с каждым днём гложет его душу. Он был сумасшедшим до того как она пришла в его жизнь, и остался таким после того как она ушла...\nКаждый день, прогуливаясь по улицам утреннего города, он с улыбкой на губах, и с грустью в глазах вспоминал все моменты, когда она ходила вместе с ним. Каждый раз, ему чудилось, что она с ним, что она не оставила его, но это ведь неправда, или правда? Что за чушь? Конечно, же, она уже не с ним, она там далеко наверху от них...\nОн всегда слушал её звонкий, но одновременно робкий голос, от которого так и хотелось прижать к себе и не отпускать никогда, но он отпустил, туда, от, куда не возвращаются.... И теперь, её голос постепенно растворяется из его мыслей.\nС ней, он чувствовал, что он не такой как все, с ней, он мог быть особенным, но зачем теперь быть таким, если её нет? Теперь, он лишь одно лицо, в той толпе, что окружила его. Возможно, его и заметят, но точно не как личность, его знала лишь она, но она ушла...\nSomeday, someday\nНо когда-нибудь, когда-нибудь\nI know you're coming back\nЯ знаю, ты вернешься...\nСтрочки сами всплыли у него в голове. Песня, которую он услышал недавно по радио, всегда преследовала его. Не важно где, на улице, в метро, в машине, или дома, он всегда вспоминал её... Ту, что изменила его жизнь, и ту, которая сейчас очень далеко от него...\nШагая по улицам просыпавшегося города, он невольно прошёл-то место, где она покинула этот мир. Воспоминания нахлынули его, но он попытался их отогнать, но разве это возможно? Нет... Он это знал, но всё же противится судьбе. Какая ирония, не правда ли?\nГрязная улица, в старом районе Магнолии, насквозь была пропитана кровью, куревом, и алкоголем. Она ведь предлагала уйти, а он не послушался её. Глупец. Маленький наивный глупец, который ничего не боится, хотя всё совсем наоборот...\nМаньяк, от которого они бежали, был пропитан безумством, но разве безумством называют алкоголь? Кто знает, кто знает... А жертвы, пьяного человека, прибежали в какую-то улочку, из которой убежать невозможно, или тупик... Одно всего лишь слово, а сколько паники оно приносит... Пятясь, они встали, во что-то похожее не грязь, или это и была грязь? Кто знает, кто знает... Замахнувшись, маньяк направил перечный ножик на парня, и кинул его. Банально да? Но девушка, успела встать перед ним, и по этому, удар пришёлся прямо в живот.\nЧто было дальше, парень помнил смутно, но было очевидно, на его глазах, за него умерла его Джувия. Странно, да? Вроде бы должно быть наоборот, а получилось так. На его руках, была её кровь, а он видимо потерял сознание...\nТеперь, мир слишком серый, хотя нет, он кроваво-красный, такой же, как и её любимый цвет. Странно да? Любит дождь, но любимый цвет красный... Но разве имеет ли это значение, если Джувия ушла со сцены, навсегда? Возможно, это и был её час, а может быть, она жила бы ещё дольше, но всё же прошла мимо, так же, как и всё хорошее, в этом алчном мире...\nИ этот факт, заставил его повзрослеть, и принять реальность со всеми её составляющими... Трудно, было лишь по началу, а сейчас он привык, и даже вполне справляется, но что-то поменяется, и это, что-то произойдёт слишком быстро...\nОна никогда не задумывалась, о том, будут ли её помнить, или не заплачут ли они, когда она умрет, нет, у неё даже мыслей таких не было, ведь ты была в своих мечтах. Думала, что будешь жить вечно, как бог, или дьявол. Она думала, что тебя не пробьёт никакая пуля, но всё же ошиблась... Простой ножик отнял твою жизнь, и знаешь, я не жалею об этом, ведь, ты всегда была с крыльями, как у ангела, хоть ты не всегда была счастлива, пока, в твоей жизни не запели посланники Божьи...\nИ снова, его пробирает дрожь, он думает, что сейчас она подбежит, сзади, и, закрыв глаза, скажет \"Угадай кто?\" И ты как обычно просто скажешь с улыбкой \"Джувия. Моя Джуви.\" И темноволосый поклянётся, всем богам, что она смущается от его слов. Ведь это правда...\nБудние дни потихоньку вытесняют её голос из его головы, а сам он погружается, в суету города. Возможно, он забудет её, найдёт другую, и они заживут счастливо, или будет одинок всё жизнь, вспоминая её. Кто знает, чем закончится эта история, но однажды они встретятся. Через сто лет, через века, тысячелетия, не важно... Они встретятся, и это главное....\nА пока, темноволосый скажет лишь одно предложение, и с ухмылкой пойдёт в сторону дома...\n- Кода же ты спустишься, Джуби?\nВсего лишь за несколько секунд, мир может поменяться, до неузнаваемости. Берегите это время, и возможно, в будущем время само преподнесет вам подарок...",
"query: Больно... Слишком больно... Больно каждое мгновение, каждый вздох причиняет просто немыслимую боль. А она лежит совсем рядом, бездыханная. Вокруг люди, но он их просто не видит. Он видел как она умерла, она смотрела прямо на него в этот момент и хотела поцеловать.\n\"Magic can do much, but not death\".\nОн отгородился от всего вокруг, осталась только боль. И вдруг вспышка ярости, а перед его взором гаснущие глаза Белль. Ярость заставила его подняться с колен и направиться к убийце. При ходьбе, в ноге проснулся вулкан, но это было уже не важно. Боль в душе заглушала все остальное.\n\"Она умерла из-за меня\".\nОн подошел к убийце, тот лежал на земле и ухмылялся. Он выполнил свою месть и был собой доволен. Мужчина с яростью начал душить убийцу своей тростью, но ухмылка не сходила с его лица. Голда пытались оттащить, но ярость придала ему огромную силу, и вскоре глаза пирата погасли. Но Голду не стало от этого легче, он лишь почувствовал, что предал ее веру. Убив Белль, пират убил все человеческое в Голде, остался только монстр. Монстр с разбитым сердцем.\nЭмма хотела надеть на него наручники, но не смогла. Импульсом он отбросил ее и ее родителей от себя. Его кожа начала меняться, и одежда также вмиг переменилась. Совершив убийство, он снова стал крокодилом, безжалостным Румпельштильцхеном. Он снова подошел к Белль и упал перед ней на колени. Он смотрел на ее холодное лицо и просто не мог поверить, что ее теплые глаза не посмотрят с нежностью на свое чудовище. Из груди вырвался жуткий нечеловеческий крик, будто он звал душу любимой, но она не откликалась.\nИ снова ярость, безумная ярость и слезы. Она виновата лишь в том, что влюбилась в чудовище, подарила ему счастье. Но ее смерть забрала все.\nБыло совсем не так, как тогда в замке. Тогда он хотя бы знал, что его принцесса в порядке, теперь...\nСлишком больно...\nРумпельштильцхену не хотелось ступить за черту города и все забыть. Он не мог забыть свою принцессу, хоть воспоминания и приносили страдания. Он хотел просто умереть рядом с той девушкой, которая забрала его сердце.",
"query: До этого момента я ничего не чувствовал. Пустота и темнота. После того, как эта тварь вцепилась мне в шею я успел мысленно со всеми попрощаться и был готов к смерти. Но это была не она. На том свете не может быть так неопределенно и темно. Значит, я все ещё жив. А раз так, я скоро выберусь отсюда...\nПо телу словно прошел электрический разряд. Я вздрогнул и распахнул глаза.\nЧестно признаться, я даже не сразу понял где нахожусь. И в данный момент меня это совсем не тревожило, потому, что перед собой я увидел знакомое лицо мага. Единственный, кто мне нравился после Джейса и с первого взгляда сумел заполучить моё сердце. Да, это несомненно был он. За столькие годы впервые в стенах института кто-то кроме сумеречных охотников.\n- Магнус Бейн, - с максимальной холодностью, какая только возможна в данной ситуации, прокомментировал очевидное я.\nТак уж принято у нас, охотников. Не кинусь же я к нему на шею с поцелуями и фразочками примитивных типа: \"О, привет! Давненько не виделись. Я так скучал\".\nЧисто физически в данный момент я и не мог себе такого позволить. Да и видел я мага всего во второй раз в своей жизни. Но, черт возьми, этого было достаточно, чтобы подцепить меня на крючок как глупого карася!\n- Александр Лайтвуд, - снисходительно улыбнулся Магнус.\nПохоже после долгой отключки у меня начала кружиться голова, но это показалось даже приятно.\nЯ открыл было рот чтобы задать вопрос, но гость опередил меня.\n- Только не спрашивай, что я здесь делаю, - он прожег меня взглядом медовых глаз. - Ходж переживал за твою жизнь и, как я вижу, не напрасно.\nЭто было именно то, что я и хотел спросить. Если он умеет читать мысли - это весьма плачевно. Предпочитаю держать свои мысли при себе.\nБейна снова что-то развеселило и он криво улыбнулся отворачиваясь от меня. Это подтвердило мои догадки.\n- Ладно, не буду тебя смущать, - маг поднялся. - Ты еще слишком слаб и отдых лишним не будет.\nМагнус сделал странное движение похожее на полупоклон и направился к двери.\n\"Нет, так просто ты от меня не уйдешь\".\nМне действительно хотелось, чтобы он побыл рядом, чтобы не уходил так быстро. Он мне нравился, насколько можно судить по одной мимолетной встрече глазами. Хотя я не готов был признаться в этом даже себе.\n- Я нормально себя чувствую, - не своим голосом заметил я, провожая мага взглядом.\nТот не остановился. - Бейн! - снова никакой реакции. - Стой! - в яростном бессилии я ударил рукой по кровати и мгновенно вернувшаяся боль заставила меня стиснув зубы едва слышно простонать.\nМаг замер.\n- Хочешь, чтобы я остался? - в его словах я услышал весьма недвусмысленный намек. - Я нужен тебе?\nФигура в черной мантии развернулась ко мне. Бейн вскинул бровь ожидая ответа.\n- Ой, иди к дьяволу! - психанул я, неожиданно даже для самого себя, но пути назад уже не было.\n- ...\n- Убирайся, - процедил я сквозь зубы, в душе умоляя его не слушать моих слов.\n- Ладно, - примирительно тряхнул головой Магнус. - Прости.\nОн вернулся к моей койке.\nЯ смерил его сердитым взглядом и \"совершенно случайно\" встретился с прекрасными глазами. Его взор проникал прямо в душу, заставлял подчиняться воле хозяина.\nДругого описания я бы дать не смог, но может только на меня он так действовал.\n- У тебя тоже красивые глаза, - сделал комплимент он.\n- Хватит! - я прикусил губу, чувствуя, как краска приливает к моему лицу.\n- Да, извини, - опомнился Магнус. - Я понял, что тебе это не нравится. Что ж, придется играть по твоим правилам. - Бейн пожал плечами и весьма глупо улыбнулся.\nМне осталось только покачать головой.\n- Там, на вечеринке вампиров... - я замялся, - Как ты узнал, что я... гей?\n- Глупый вопрос, не находишь? - сладко улыбнулся он, в то время как его обволакивающий голос в очередной раз взял меня в свой плен.\n- Да, пожалуй. - поспешно ответил я, и добавил как-бы между прочим, - Как ты меня тогда назвал?\n- Жгучей бестией, - маг будто ждал этого вопроса.\nЯ скорчил скептическую физиономию, а вот Бейн выпрямился и посерьезнел.\nИ неожиданно положил руку на мою ладонь, заставив меня невольно напрячься.\n- Знаешь ли, - откровенно признался он, - я не занимаюсь благотворительностью и не спасаю от смерти сумеречных охотников...\nНа секунду он замолчал, видимо размышляя, стоит ли продолжать признание или лучше забить пока не поздно.\nЯ чуть наклонил голову в знак крайней заинтересованности и маг, вздохнув, продолжил.\n- Мне было наплевать на просьбу Ходжа и поначалу я отказал ему... Но... после того как он назвал мне имя... Будь на твоем месте кто-то другой, меня бы здесь не было.\nМагнус пронзил меня взглядом. И тут я решился.\n- Мог бы сформулировать проще, - заметил я.\n- В смысле?\n- Ты мне тоже небезразличен.\nПлечи мага затряслись от смеха.\n- Что на этот раз не так? - возмутился я освобождая руку.\n- Ты тоже не очень красноречив. Но не беда. Я не беседовать сюда пришел.\nБейн провел ладонью по моей щеке, отчего меня бросило в жар, потом наклонился и осторожно коснулся моих губ.\nЯ подался было вперед требуя большего, но тот неожиданно отстранился.\n- Что опять? - недовольно закатил глаза я.\n- Мне нравится тебя злить, - признался Магнус скривив столь желанные губы в усмешке. - Ты такой сексуальный, когда заводишься.\n- Ты просто пользуешься моей дееспособностью. Если бы я мог подняться...\nМаг не дал мне закончить угрозу и с новой страстью накрыл мои губы своими. На этот раз я превозмогая боль обхватил руками его шею и сильнее притянул его к себе. Тот слегка улыбнулся не прерывая поцелуя. Моя голова продолжала кружиться.\nНаконец, тяжело дыша, Бейн отстранился.\n- Пока ты в таком состоянии, на большее не рассчитывай, - с улыбкой пригрозил он.\n- Можно подумать, ты делаешь мне одолжение. - принял вызов я. - Тебе это нужно не меньше.\n- Ты наглеешь прямо на глазах, - вынес вердикт маг.\n- Ты ещё плохо меня знаешь.\n- Тогда до скорой встречи. Признаюсь, буду скучать, - Магнус Бейн уже во второй раз за этот вечер направился к двери. И на этот раз я его не останавливал.\n- Да, я тоже, - выдохнул я жалея, что не вижу сейчас его лица.\nДверь за Бейном закрылась. Я остался один и через пару минут вновь отключился.\nС того дня минули почти два месяца. Я старался не думать о возможностях встречи с магом. Чтобы первым делать шаг навстречу я был слишком горд... Или стеснителен, но все-же многое в моей жизни изменилось после нашей встречи. В первую очередь, я стал по-другому смотреть на Джейса. Он не привлекал меня так как раньше, хотя несомненно все же нравился. Однако фантазии мои занимал исключительно этот высокомерный и эпатажный тип - Магнус Бейн. Даже если я пытался мысленно послать его к черту и выкинуть из головы, со временем все больше убеждался, что это невозможно.\n- Алек, ты здесь? - в дверях появился Джейс.\n- Что случилось? - я не оглянулся на него: не хотел видеть.\n\"Правда?\"\n- Ходж сказал - вечером отправляемся на охоту. Ты с нами?\n- Естественно, что за вопросы?\n- Просто ты выглядишь усталым, - с сочувствием заметил парень.\n\"Будто тебя это волнует\", - с горечью подумал я.\n- Тебе кажется.\nПовисло напряженное молчание. Я хотел, чтобы он ушел. Впервые в жизни я не хотел с ним разговаривать. С человеком, которого ещё недавно мечтал затащить в постель. Боже!\n- Слушай, - он вошёл в комнату и прикрыл за собой дверь, - мы же друзья... мы братья. Если у тебя какие-то проблемы, ты не должен держать их в себе. Поговори с нами. Со мной. Я уверен, что вместе мы легко справимся с твоей... депрессией.\nДжейс положил руку на мое плечо. Раньше он часто так делал и мне это нравилось, но сейчас его вмешательство в мою личную жизнь лишь нагнетало ситуацию. В последнее время я всеми силами пытался унять уже много лет мучившие меня чувства к приёмному брату. Бейн должен быть уверен в том, что кроме него мне никто не нужен.\n- Нет у меня никаких проблем, я просто хочу побыть один. Ты можешь оставить меня в покое? - как можно мягче постарался сказать я.\n\"Вообще-то он хочет помочь. Не его вина, что я гей\".\n- Я понимаю твои чувства... - осторожно начал он.\n- Нет, - отрезал я, вдруг оглянувшись на него.\nТот даже отступил назад.\n- Ты не понимаешь меня, а я не понимаю вас с Клэри. Это вполне логично, это совершенно разные чувства и никто не винит тебя в моих переживаниях, но я разберусь с ними сам. Я знаю чего хочу.\n- Хорошо, - Джейс опустил глаза.\nНикогда за ним такого не наблюдал.\n- Твое дело, - пожал плечами он и, выйдя за дверь, вновь оставил меня в одиночестве.\nНе знаю, сколько времени я простоял так размышляя, правильно ли поступил и не обидел ли чувства брата.\nДверь в комнату открылась. Я решил, что Джейс вернулся, бросил на него недовольный взгляд и... замер в изумлении.\nНа пороге стоял Магнус Бейн, одетый, как и всегда, в лучших своих традициях: в серых облегающих брюках с заниженной талией и усыпанным блестками широким ремнем, белой майке и кожаной куртке с бессчетным количеством цепей и заклепок. Броский макияж составлял темную подводку глаз сверху и золотисто-перламутровую, потолще, снизу.\nЯ понимал, что нужно как-то поприветствовать гостя, но, будто проглотив язык, продолжал безмолвно пялиться на него.\n- Пришел проверить, как ты себя чувствуешь, - без лишних формальностей сообщил Бейн.\n\"Мое сердце упало на пол и откатилось к его ногам, оставляя кровавую полосу\".\n- Если бы ты хотел проверить как я себя чувствую - пришёл бы раньше. - с нотками обиды ответил я. - Тебе просто заняться нечем? Решил прогуляться до института?\n- А мог бы вообще не придти, - заметил маг.\nТакая перспектива меня совершенно не вдохновила.\n- У меня тоже есть чувства, Алек. Я мог колебаться, сомневаться, правильно ли поступаю и хочу ли этого на самом деле. - Магнус подошел ближе и остановился напротив меня.\nЯ стоял опустив голову и потупив взгляд. Кто я такой, чтобы обвинять его в чем-то? Эгоист. Всё это время, страдая и мечтая о встрече, я ни на секунду не задумался о том, что чувствует он. С каким трудом ему дается признание самому себе. У него тоже есть гордость, на которую ему пришлось наступить, чтобы явиться сюда. Ко мне. Снова.\n- Ты бы сам ко мне ни за что не пришел, - снова в точку.\n\"Да\".\n- Прости, - шепчу едва различимо.\nМаг изучает меня кошач"
]
embeddings = model.encode(sentences)
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [4, 4]This is a sentence-transformers model finetuned from intfloat/multilingual-e5-base on the json dataset. It maps sentences & paragraphs to a 768-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.
SentenceTransformer(
(0): Transformer({'max_seq_length': 512, 'do_lower_case': False}) with Transformer model: XLMRobertaModel
(1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
(2): Normalize()
)
First install the Sentence Transformers library:
pip install -U sentence-transformers
Then you can load this model and run inference.
from sentence_transformers import SentenceTransformer
# Download from the 🤗 Hub
model = SentenceTransformer("sentence_transformers_model_id")
# Run inference
sentences = [
'query: - Канда! Я ещё согласился на пассив "снизу" ! Но это уже даже не пассив, это уже без актив какой-то!\n- А что ты от меня хочешь-то? Я уже не могу сдерживаться!\n- Не вдавливай меня ТАК в стену-то!\n- Тч. Мояши, хватит елозить и наслаждайся моментом!\n- Но это не честно! По отношению, между прочим, к те...ммммм!!!\n- Тч. Мояши, что это?\n- Бантик!\n- Я вижу, на кой чёрт ты мне его завязал?\n- Так ты похож на подарок!\n- Счас Мугеном огребёшь!\n- А почему ты не спросишь "Кому?"\n- Мне это не интересно! А кому?\n- Мне!!! ... *Чмок*\n- Хм... меня это не устраивает!\n- Чего?!!\n- Того!\n- ММММ!!!\n- Комуи! Что это значит? Что с Алленом?\n- Что? А, Канда. Аллена Уолкера ранили на миссии!\n- Это я уже понял! Что с ним, говори конкретней! - самурай встряхнул начальника.\n- Не повышай на меня голос! - возмутился смотритель.\n- Вот с вашей сестрой что-нибудь случится, я вам тоже скажу "Не кричите!" Что с Мояши?\n- Эх... на миссии Аллен ослеп. Но не переживай. Это временно! Зрение восстановится! Месяца через 3!\n- 3 МЕСЯЦА?!\n- Да! Ты уж не обижай его пока.\n- Без вас знаю!\n- Ты куда?\n- К Аллену, куда же ещё! - грозно рявкнул самурай.\n- Ох уж эти голубки...\n- К-кто здесь? - Аллен сидел на койке, завернувшись в одеяло.\n- ... - шаги приближались.\n- Н-не подходи! - а вы бы не испугались, прежде оставшись в одиночестве, среди акум, в густом лесу, без зрения? То-то же!\n- "Не оставлю!"\n- Чистая Сила! - занёс руку, предупреждая врага.\n- "Ни за что больше не оставлю одного!" Аллен! - подхватить тонкое тельце на руки, прижать к себе, ладонью накрыв глаза Мояши, как в первом поцелуе. И коснуться уголка ротика своими губами.\n- К-Канда?!\n- Не волнуйся! Я стану твоими глазами пока ты продолжаешь быть моим Сердцем Невинности.\nА ты уставший идёшь с миссии.\nА я уставший иду с тренировки.\nТвои ноги истоптаны.\nPOV Канды.\nМоя голова болит.\nТвои руки ноют.\nМоё сердце истомилось.\nИ вот мы идём друг на друга, поднимаем грустные, измученные глаза друг к другу.\nТы останавливаешься.\nДурак, что-то говоришь.\nЧто-то кричишь.\nО чём-то молчишь.\nКак-то смотришь.\nО чём-то волнуешься.\nСнова о чём-то кричишь.\nС грустью смотришь.\nО ком ты мучаешься?\nДелаешь шаг, ещё один.\nХватаешь за воротник.\nПривстаёшь на носочках.\nЦелуешь...\nДурак, ты же устал!\nДурак, я же устал!\nЯ останавливаюсь.\nДурак, что-то отвечаю.\nЧто-то кричу.\nНа чём-то замолкаю.\nТупо смотрю.\nЧто-то щемит.\nОпять что-то ору.\nОтрешённо смотрю.\nЗа кого-то волнуюсь.\nСтою.\nНастораживаюсь.\nВсё равно.\nНеужели?!\nОтвечаю на поцелуй.\nКак же мы устали!\n- Давно?\n- Всегда, Мояши.\n- Нет, честно, я ненавижу голубей! А особенно белых! - скандалил Лави идя по коридору Чёрного Ордена.\n- Чем же они тебе не нравятся? - спросила девушка-китаянка.\n- Да блин, сидят везде где не попадя и сверху какают!\nИ только они зашли за поворот, как услышали:\n- Нет, Канда, прекрати! Нас могут увидеть!\n- Да кто нас тут может увидеть, Мояши?\n- Ну, кто-нибудь! Ах... Юу!\n- Мимо голубятни никто не проходит! Это надёжная часть замка!\n- Ну, ну, ну ладно... но почему именно тут?\n- А кто верещал что ему романтики не хватает? - Канда недвусмысленно зажимал Аллена на подоконнике.\nЛави и Линали шарахнулись обратно.\n- Хотя знаешь, Ли. Может в этих голубках что-то и есть!\nДышать становится всё труднее, меня загоняют в угол. Я испуганно оборачиваюсь и вижу... его.\n- Ты, проклятый! - окрикивает строгий японец.\nА я молчу, дыхание сбилось, взволнован. Что ему нужно?\n- Не думал что ты опустишься до краж, Мояши.\nЧто? Краж? Каких краж, Юу?\n- Ты о чём?\n- Именно ты, о я не сомневаюсь, - он издевается? - ты украл у меня одну вещь.\n- Канда, я ничего не брал! - откуда это чувство безысходности? Он остановился.\n- Либо верни мне его, либо я заберу твоё! - Что? Я его не понимаю! Что он делает? Хватает за подбородок, тащит на себя. И... боже, что это? Он... Я чувствую его губы и сам не пониая - отвечаю! Канда, ты, ты, ты... настоящий вор! Ты крадёшь моё сердце!\n- К-канда... - руки повисли. Не соображаю.\n- Верни моё сердце, Грёбанный Стручок!\n- Я... ни за что! Я оставлю его себе! А ты... уже забрал моё...\nВолновался как-то Аллен, ведь Канда был на миссии. И вот шлёт он ему письмо через голема.\nА: Ты там вообще живой, БаКанда?\nК: Да, Аллен. Живой, я живой!\nА: Канда! Что с тобой? Тебе плохо? Умираешь? Тебя Линали поцеловала? Держись друг!\nК: Ты чё? Со мной всё хорошо, Мояши!\nА: Фух... не пугай меня так больше.\n- Эй, Канда, не грусти! Это так на тебя не похоже!\n- Тебе легко говорить. У вас с Лави всё налаживается. А на меня Уолкер даже не смотрит!\n- Ты поговори с ним!\n- Тч, и так каждый день видимся!\n- Нет, Юу, поговори с ним, как со мной! Всё образумиться слышишь?\n- Не верю я в это.\n- А ты поверь! Чудо - бывает!\nhttp://vkontakte.ru/photo63528512_276702591\n-Не отдам. Слышите?! Никогда не отдам вам Канду!!!\n- Это не тебе решать, Аллен Уолкер!\n- Не. Подходите. К. Нам.\n- Он принадлежит нам!\n- Я... он... УБЬЮ!!!\nhttp://vkontakte.ru/photo63528512_276702661',
'query: Конец года - это пора для радости, в предчувствии надвигающихся каникул, свободы. Это было начало мая, когда на улице уже тепло, а по утрам зябко. Когда цветы уже расцвели и начали благоухать. Сырая земля покрывалась травиночками, и по ней туда-сюда сновали букашки-таракашки.\nПтицы летали над деревьями, чирикая и стрекоча, а какая-то особенно усердно напевала:\n~ midori tanabiku namimori no\ndainaku shounaku nami ga ii\nitsumo kawaranu\nsukoyaka kenage\naa~\ntomo ni utaou\nnamimorichuu ~\nДа... это была та самая чокнутая птичка, хозяином которой был не мене чокнутый Хибари Кёя. Хотя назвать его так прилюдно ни у кого бы язык не повернулся... ну, почти ни у кого.\nВремена школьной поры прошли, и теперь настали не менее насыщенные времена студенчества. Так уж получилось, судьбы злая шутка, что бедного Саваду Тсунаёши перенаправили в университет, где главой дисциплинарного комитета был страх и ужас его жизни - Хибари Кёя! Ну, разумеется после репетитора... но не об этом сейчас. Любопытно, что бедного Саваду Тсунаёши, ошибочно, запихнули сразу на 2 курс! М-да... не повезло ребёнку...\nНо тут фортуна повернулась к нему своим рылом, и в его классе он повстречал замечательного человека - Аллена Уолкера.\nС ним они мигом сдружились и стали, не разлей вода. Но это было осенью, а теперь весна! А это значит...\nСцена 1. Дубль 1.\n- Тсуна, не переживай ты так! Сдашь ты эти экзамены! Ведь и я, и твой репетитор занимались с тобой весь учебный год! Ты даже начал понимать азы электрофизики! - успокаивал вечно лояльный седой, поглаживая Тсуну по пушистой каштановой шевелюре. - Ну, а если что, останешься на второй год! Вон, некоторые так уже 3 раза делали! - кивнул он на Канду, что сидел у окна в конце класса.\nКанда Юу, о-о-о! Это, вообще, отдельная история! Хулиган, отличник, красавец, последняя скотина, человек чести, бездарь, гроза всех и вся... чувства смешанные. Как всё это и ещё много "положительных" качеств находятся в одном человеке, Аллен отказывался понимать!\n- Но он хотя бы крутой, и отличник, а я как был никчемным, таким и останусь. Мне не сдать эти экзамены, ни за что в жизни! - продолжал страдать Тсуна, схватившись за голову. Таким он был, слишком неуверенным в себе, пессимистичным, а ещё последним неудачником... список можно продолжить. Но в тоже время, ради друзей он был готов на многое! Его отзывчивость, доброта не знала границ. Если кто-то обижал его друзей, его глаза становились оранжевыми, а сам он серьёзным и мега-сильным.\n- БаКанда-то?! Ха-ха-ха! - рассмеялся Уолкер. - Дурак дураком! Он просто везунчик с репутацией и внешностью! И всё! - он многозначительно хмыкнул. - А ты, ты добрый и милый! Просто будь поувереннее в себе, и всё получится!\n- Эх, и как ему удается быть таким уверенным? У меня так не получается... - вздохнул Савада, посмотрев на Канду. - Да, и при этом он ничего не делает, лишь сидит на своём месте, но все девчонки возле него вьются.\nНо тут, вдруг, Канда посмотрел в их сторону, а Тсуна тут же отвернулся и сжался, будто его только что облили ледяной водой.\n- Фух...\nАллен тоже посмотрел на Канду и, показав ему язык, отвернулся.\n- Пф! И что они в нём нашли, не понима... - вот теперь уже Аллен замер уставившись на дверной проём, откуда излучалась аура смерти. Это был Хибари Кёя\n"Что ему нужно?!"\nСцена 2. Дубль 1.\n- Кто... кто посмел прийти в университет без сменки?!!!\nТут Уолкер посмотрел на пол и вздрогнул. Грязь! Лужи грязи от военных сапог, а такие сапоги только у...\n- Канда Юу! - взревел Кёя.\nНо парень лишь одарил его своим обычным, равнодушным взглядом, полным холода.\n- Что-то не так?\n- Ты, травоядное! - подойдя к Канде, Хибари ласково отодвинул парту. - Ты ответишь за то, что испачкал полы! - он насквозь прожигал взглядом.\n- Хм, ещё чего, - гордые синие глаза пронизывали холодом в ответ. Вдобавок он закинул ногу на ногу. - Сменка порвалась, другой я не нашёл, пришлось идти в университет так.\n- Да плевать я хотел! Босиком ходи! А помещение пачкать не смей! - рычал Кёя.\n- Завтра так и сделаю - фыркнул тот. - Это всё?\n- Будешь неделю мыть полы в этом коридоре! - нахмурился глава дисциплинарного комитета. - И начнёшь, прямо сейчас!\n- Тч, не намерен. Для этого есть уборщицы, и... - бросил короткий взгляд в сторону Уолкера и Тсуны. - Дежурные.\n- Чего-о-о?! - возмутился Уолкер. - За коридор мы не отвечаем!\n- Хм, - хмыкнул Кёя, и мальчик решил помолчать. - Ты запачкал ты и убирай, а иначе... - глаза сверкнули не по-доброму. - Камикорос!\n- Нет желания драться, но раз ты настаиваешь! - Канда поднялся с места, смотря на парня с вызовом. Он не собирался отдавать своему главному сопернику звание грозы университета.\n- О, это будет интересно, - злорадно ухмыльнулся. - Все вон! Пока не перебил.\nВесь класс, что жался по стеночкам, моментально высыпал в коридор. Кроме Тсуны и Аллена, что заворожено наблюдали за событиями. Савада со страху вцепился в руку Уолкера, а сам парень обеспокоенно смотрел в сторону длинноволосого японца. - Юу... - тихо позвал он.\n- Правильно, свидетели ни к чему, - так же ухмыльнулся Канда, разминая руки. - Вы, двое, разве не ясно было сказано? - глянул он в сторону парней.\n- Аллен, может... - тихо проскулил Тсуна, прекрасно знавший нрав Хибари.\nБелобрысый, что всё это время переводил взгляд с Кёя на Канду, вздохнул, опустив глаза, и поддался на уговоры Савады, позволив утащить себя в коридор.\nСцена 3. Дубль 1.\n- Хе... - Хибари странно хмыкнул, краем глаза наблюдая за ушедшими.\nКанда так же молча, проводил подростков взглядом и вновь посмотрел на своего противника. Эта ухмылка ни о чём добром не говорила.\nХибари неожиданно ударил парня в живот так, что тот отлетел к окну.\n- Тч... - Канда согнулся, но быстро пришёл в себя и поднялся. Последовал ответный удар.\n- Хм... слабак! - Кёя быстро блокировал этот удар и подсечкой сбил противника с ног.\nЮу не растерялся и ударил его по ногам, тоже завалив на пол и сел на него, как на скамейку. Потом поднялся и заломил тому руки, пригибая к полу.\n- Бесишь!\nХибари вывернулся и с разворота ударил по лицу.\n- Травоядные должны молчать и подчиняться!\n- Я такой сволочи подчиняться не собираюсь! - удар в бок по печени.\nКёя ударил по голове тонфа.\n- А тебя никто не спрашивает! Дисциплина на первом месте!\nКанда заехал ногой в живот. Сапогами это очень жестоко.\n- Пока меня никто не трогает, я спокоен!\n- Пока не нарушаешь правила, спокоен я! - парень с силой ударил по солнечному сплетению.\n- Кх... ублюдок, - сморщился Юу.\n- Тоже мне - наглый! Думаешь, хуй отрастил, и тебе всё дозволено?! - прорычал Хибари.\n- Говори, что хочешь, но полы мыть я не собираюсь, - тем же тоном ответил противник.\n- Но таки вымоешь! - снова ударил глава дисциплинарного комитета.\n- Завтра вообще не явлюсь. И плакал ваш кубок за первое место по баскетболу, - вытерпел Канда.\n- Ты мне тут не угрожай! Незаменимых людей не бывает! А тем более тебя заменить - раз плюнуть!\n- Ох, тогда это же отлично! Завтра целый день проваляюсь в кровати и не увижу этого мелкого. Задолбал пялиться.\n- М? А причём тут Аллен?! - Кёя вскинул бровь.\n- Притом, что достал, - вздохнул Юу, - странный он какой-то. И смотрит на меня как-то странно.\n- Радовался бы! Все остальные от тебя шарахаются. С такими темпами и до онанизма недалеко, или ты уже? - усмехнулся Хибари.\n- Пф, нет... и что вообще за вопросы? Уолкер меня в последнюю очередь интересует.\n- Я не об этой козявке говорю! А про то, что с твоим характером ни одна девушка к тебе не подойдёт!\n- Хе, - усмехнулся Канда. - Спорим, я любую за день смогу закадрить? И заняться сексом.\n- Ты-то? Ха! И за месяц не справишься! - оскалился Кёя.\n- Так значит, спорим? - приподнялся Юу. - Но тогда и ты участвуешь.\n- Хе, даю тебе неделю! - Хибари убрал тонфа и протянул свою руку.\n- Договорились, - пожал руку тот. - И кто станет целью?\n- Хм... а тот, кто первый войдёт в этот кабинет! Чтоб уж честно было. В подтверждение победы принесу тебе нижнее бельё жертвы! - глава дисциплинарного комитета крепче сжал руку и, рванув на себя, перекинул Канду через спину на пол. - Но учти, если ты проиграешь, будешь драить университет весь год!\n- Тч... ладно - Юу поднялся, держась за спину. - Я тебе это не прощу.\nТут в дверь тихонько постучались.\n- А если выиграешь ты, я на год от тебя отстану! - хмыкнул Кёя и повернулся к двери.\n- Хибари-сан! Я, конечно, понимаю, что дисциплина - это святое, и поддерживаю ваше решение надрать этому придурку зад! Но у нас тут урок, а мне реферат сдавать! - зашёл безупречный Аллен Уолкер, в которого намертво вцепился Савада пытаясь остановить.\nСцена 4. Дубль 1.\nКанда посмотрел на мальчишку и издал тихий звук, похожий на кошачье шипение. Видимо он не ожидал, что первыми в класс зайдут именно эти двое.\n- Проходи, зашёл уже, - хмыкнул Юу и, отвесив Хибари подзатыльник, поспешил вернуться на своё место.\n- О, ты ещё живой?! Печально... - покачал головой Аллен. - Ребята заходите, Хибари ушёл! - тут же в дверь повалили остальные. И последним зашёл преподаватель. Беловолосый достал из сумки рисунки и чертежи, после чего развесил, взял указку и начал рассказывать реферат по экологии.\nВообще, он не был отличником, но большим трудягой!\nЕсли раньше Юу мечтал отсидеть последние уроки и свалить домой, то теперь его желанием было, чтобы уроки никогда не заканчивались.\n"Тч, Шпендель. Почему, почему ты так не вовремя свалился мне на голову?!" - думал он, делая вид, что слушает.\n- ... И вот поэтому для спасения китов так важно прекратить стрельбу и перевоз нефти через океан! У меня всё! - закончил рассказ.\n- Ну что ж, думаю, на 4-ку вполне хватит.\n- Что?! Но учитель, у него потрясающий доклад! - защебетал одногруппник.\n- Он много готовился, волновался, почему четыре?! - заступился за Аллена Тсуна.\n- Да прекрасный доклад, если честно, не ожидал, - высказался человек, которого меньше всего это могло волновать. Канда смотрел на преподавателя.\n- Э-Э-Э?! - ошалел весь класс.\n- А... э-эт-то... - залился румянцем Уолкер.\n- Ну ладно, 5!\nЮу, победно ухмыльнувшись, перевел взгляд на Аллена. Тот потупился и уставился в пол.\n"Хм, возможно это будет не так уж и ужасно", - почему-то только сейчас Кан',
'query: - Доброе утро, - шепот щекочет мне ухо. Совсем не хочется разлеплять глаза и встречать новый день. Поворачиваюсь, притягивая тебя ближе, и утыкаюсь носом тебе в грудь, ощущая запах сладостей, которые нравятся нам обоим. Я ежусь от холода, пытаясь вслепую найти края уютного одеяла и снова окунуться в сон. Ты замечаешь это и заботливо укрываешь меня. Твои пальцы перебирают мои волосы, а губы легко касаются моего лба. Мы так и застываем в этой позе на некоторое время.\nПроходит всего несколько минут, а потом я резко сажусь на кровати и начинаю ворчать, что уже давно пора вставать, ведь сегодня предстоит поездка на природу вместе с друзьями. У тебя на лице появляется улыбка, а руки тянут обратно, заставляя вновь откинуться на подушки. На улице льет дождь, барабаня в окна, а что еще делать в такой день, если не нежиться в уютной постели в объятиях любимого?\nСколько времени мы были знакомы, прежде, чем узнали о чувствах друг друга? Да, я не помню этого, но кто считает? Главное, что в моей памяти до сих пор бережно хранится момент, когда ты наконец услышал те важные слова. Перед глазами всплывают счастливые мгновения, словно кадры, запечатлевшие всё в мельчайших деталях. Это произошло в морозный январский день. Весёлая компания молодых людей не могла просто сидеть дома взаперти и упустить такой хороший случай для прогулки по заснеженному лесу и прочих зимних забав.\nТы тогда оказался вне нашего поля зрения, а темнота уже начала опускаться на землю. Конечно, мне ничего не оставалось, кроме как отправиться на поиски. На моем лице застыло удивление, когда я застал тебя за странным занятием: было забавно наблюдать за тобой, выводящим акварелью и баллончиками с краской некие узоры прямо на снегу. Твои необычность и непредсказуемость притягивали к себе мою натуру.\n- Ты мне нравишься. Очень, - кажется, будто всё замерло, и в звенящей тишине прозвучали простые слова, которые тяжело произнести. Что могло толкнуть меня просто взять и сказать их? Однако ответ на этот вопрос уже не важен, теперь он оставил место для беспокойства. Твои эмоции сложно прочитать. Так было всегда. Молчание нагнетает напряжение между нами.\nПрикосновение ледяных пальцев к моей щеке выводит из оцепенения, сковавшего тело. Я еле-еле различаю, что ты сейчас говоришь, но некоторые обрывки фраз всё же приобретают смысл. Никогда не верил в чудеса, да вот только сейчас понимаю: они случаются. Маленькое чудо - узнать об ответных чувствах того, кто так много значит для тебя.\nМы идем с тобой по заметенным снегом улицам. Вьюга, завывая, дует в лицо, сбивая прохожих с пути, а у меня на душе - спокойствие и умиротворение... Когда ты рядом, происходящее вокруг не имеет значения, и нет дела до всех остальных.\nМне слышно, как твои зубы стучат от холода. Сжавшись, ты прячешь нос в высокий ворот куртки. Я уверен, что твои руки в карманах давно не могут отогреться и принять нормальную температуру.\n- Замерз? - спрашиваю, заглядывая в карие глаза, обрамленные черными ресницами, на которые тихо падают снежинки, и, не дожидаясь ответа, тяну тебя в ближайшее кафе.\n- Пойдем домой, а то воспаление легких подхватишь, - строго замечаешь ты, уже направляясь в сторону нашего подъезда.\n- Постой, разве не видишь, какая чудесная погода? - знаешь ведь, что мне нравится гулять под дождем, подставляя лицо падающим холодным каплям.\nТебе в голову быстро приходит мысль, как заставить меня уйти в более сухое и теплое место. Долго не раздумывая, рывком притягиваешь к себе, прижимаясь к моим губам. От неожиданности я приоткрываю их, а руками начинаю гладить твою спину, к которой прилипла изрядно промокшая рубашка. Не спеша, ты углубляешь поцелуй, еще больше раззадоривая. Именно так и предполагалось, правда?\nКое-как справившись с замком, мы вваливаемся в полутемную квартиру, едва сумев устоять на ногах. Перед глазами до сих пор стоит пелена дождя. Ты сразу же резко прижимаешь меня к стене, и твой язык врывается в мой рот в неистовом поцелуе, беспорядочно двигается вдоль зубов и возвращается к моему языку. Я не стремлюсь брать инициативу на себя, мне всегда нравилось плавиться под натиском твоих ласк и ожидать, что же ты предпримешь дальше. У тебя почти всегда ледяные пальцы, и у меня мурашки бегут по коже от приятных, но холодных прикосновений. Тебе нравится смотреть, как прогибается моя спина, когда ты рисуешь на ней невидимые линии. В джинсах уже становится тесно, а в голове образуется пустота, заполняемая лишь тобой. Твои руки опускаются ниже, нащупывая пряжку ремня. О, ты же сам затеял эту игру, малыш, так давай поиграем?\nЯ, всё так же находясь в крепких объятиях, делаю неожиданный разворот, привычно занимая роль актива. Ты с замиранием сердца смотришь на меня, прекратив все действия. Улыбнувшись, провожу языком по твоему уху, чуть прикусывая мочку, от чего твои дрожащие пальцы перемещаются вверх и судорожно сжимают мои волосы, с которых стекает вода. Нетерпеливо расстегиваю пуговицы твоей рубашки, попутно оставляя несколько багровых отметин на шее и на груди. До меня доносится стон, и я продолжаю медленную пытку, стягивая с тебя брюки вместе с бельем. В тишине, разбавляемой нашим тяжелым дыханием, раздается шумный выдох, когда я делаю несколько движений рукой по основанию члена, а затем, лизнув головку, отстраняюсь, глядя в одурманенные глаза.\n- Спальня, - шепчешь ты, крепко держась за край тумбочки, стоявшей рядом.\nПросить дважды нет смысла, ведь у меня самого уже нет сил терпеть это тянущее ощущение, образовавшееся внизу живота.\nЛегко подхватываю тебя на руки и иду в ту комнату, в которой мы столько раз занимались любовью.\nКровать встречает нас знакомым скрипом, когда я опускаю тебя, нервно кусающего губы. Ты хватаешь меня и тянешь на себя, отчего оказываешься прижатым моим телом. Твои руки скользят по моим бокам, помогая снять футболку и, приложив некоторые усилия, приподнявшись, обводишь языком мои соски, слегка царапая их зубами.\nЧувствуя необходимость скорейшей разрядки, я пытаюсь как можно скорее снять джинсы и нашарить в ящичке шкафа смазку и презервативы. Нетерпеливо устраиваюсь поудобнее между твоих ног, разводя их в стороны и немного сгибая в коленях. Выдавливаю гель и поочередно аккуратно ввожу в тебя пальцы, растягивая проход. Слышу твое сдавленное шипение и стараюсь отвлечь своими ласками, покрывая грудь и плечи поцелуями, кое-где чуть прикусывая кожу.\nТы заерзал и недовольно уставился на меня, требуя большего. Я с удовольствием подчиняюсь. Приставляю член ко входу и медленно вхожу, на что получаю еле заметный кивок, как разрешение продолжать. Спустя несколько толчков ты выгибаешься в позвоночнике, и на моем лице появляется улыбка. Я увеличиваю темп, двигаясь всё быстрее.\nОргазм стремительно накрывает нас с головой, даря столь долгожданное наслаждение. Со сбившимся дыханием, со звездочками в глазах падаю рядом с тобой, раскрасневшимся, тяжело дышащим, но таким любимым. Ты прижимаешься ко мне, положив голову на мою грудь. Делать сейчас что-либо выше всяких сил - я продолжаю лежать, поглаживая твои волосы и вслушиваясь в биение наших сердец.\nПочему я тебя тогда не послушал? Зачем позволил тебе мокнуть под дождем вместе со мной? Если бы не эта ошибка, ты бы не подхватил серьезную болезнь. Меня до сих пор терзает чувство вины. Очень тяжело осознавать, что погубил чью-то жизнь... Особенно того, кто был центром моей Вселенной.\nЯ продолжаю жить прошлым, не могу не вспоминать те немногие, но такие дорогие моему сердцу моменты, проведенные с тобой. Мы совсем недолго были вместе. Меня часто можно встретить на том самом месте в лесу, где я открылся тебе. Иногда мне кажется, что сквозь сильную метель вижу твой силуэт. Ты улыбаешься и делаешь несколько шагов навстречу, а потом исчезаешь...\nЕсли бы только была возможность еще раз услышать такое теплое "доброе утро", почувствовать горячее дыхание, щекочущее ухо, хоть что-нибудь...\nПока ты был рядом, было совсем не важно, что происходит вокруг. Но теперь, когда я наблюдаю за ненастной погодой в окно, у меня нет светлых мыслей и легкости, что возникали раньше. Даже летом мое сердце сковывает лед, который уже не удастся растопить.',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 768]
# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]
BinaryClassificationEvaluator| Metric | Value |
|---|---|
| cosine_accuracy | 0.9225 |
| cosine_accuracy_threshold | 0.7901 |
| cosine_f1 | 0.756 |
| cosine_f1_threshold | 0.7818 |
| cosine_precision | 0.7562 |
| cosine_recall | 0.7557 |
| cosine_ap | 0.8479 |
| cosine_mcc | 0.7072 |
sentence1, sentence2, and label| sentence1 | sentence2 | label | |
|---|---|---|---|
| type | string | string | int |
| details |
|
|
|
| sentence1 | sentence2 | label |
|---|---|---|
query: Что что-то не так, интуиция подсказывала Занзасу с самого утра. Благополучно проигнорировав пробуждение с лигром в постели, Бестер периодически спал рядом с хозяином. Занзас лениво но, как известно организму не откажешь, спустился на кухню. Относительно спокойно поев, и избавившись от новоявленного трупа, который пролил на него подливу к мясу, босс всея варии отправился в душ. Быстро вымывшись и обвязав короткое полотенце на бедрах, он вернулся в свою спальню и прилег на кровать рядом с лигром. Немного потрепав его гриву, брюнет разлегся на кровати. Животное же вспомнило, как длинноволосый парень использовал его хозяина как самку. А Бестер по характеру был очень похож на Занзаса собственничеством, по этой причине зверь встал, потоптался на постели и забрался на своего хозяина. Занзас вновь не придал этому значения, принимая за попытку ленивого животного слезть с кровати. Это и было его ошибкой. Своим немалым весом Бестер придавил мужчину к постели, и отдельно придавил одной лапо... |
query: Аомине неспешно шел в сторону школы Сейрин. Уроки еще шли, поэтому ему было некуда торопиться, а свои он благополучно прое...кхм, пропустил, дабы наведаться к Кагами. Зачем, он и сам до конца не понимал, но привык следовать своим желаниям и кормить внутренних демонов. В наушниках играла незатейливая мелодия на английском, а сам Аомине не заморачивался текстом, наслаждаясь звучанием музыки и голосом певца. |
1 |
query: Что что-то не так, интуиция подсказывала Занзасу с самого утра. Благополучно проигнорировав пробуждение с лигром в постели, Бестер периодически спал рядом с хозяином. Занзас лениво но, как известно организму не откажешь, спустился на кухню. Относительно спокойно поев, и избавившись от новоявленного трупа, который пролил на него подливу к мясу, босс всея варии отправился в душ. Быстро вымывшись и обвязав короткое полотенце на бедрах, он вернулся в свою спальню и прилег на кровать рядом с лигром. Немного потрепав его гриву, брюнет разлегся на кровати. Животное же вспомнило, как длинноволосый парень использовал его хозяина как самку. А Бестер по характеру был очень похож на Занзаса собственничеством, по этой причине зверь встал, потоптался на постели и забрался на своего хозяина. Занзас вновь не придал этому значения, принимая за попытку ленивого животного слезть с кровати. Это и было его ошибкой. Своим немалым весом Бестер придавил мужчину к постели, и отдельно придавил одной лапо... |
query: Аомине был ангелом уже очень давно. Он даже не помнил сколько лет, даже веков прошло с того момента. Он любил сидя на одном из облаков наблюдать за Землей, а особенно осенью. И это был обычный день, но Аомине захотелось посмотреть поближе. Раскрыв огромные крылья, он устремился камнем вниз. Для людей это выглядело как упавшая звезда, яркая линия в небе. Никто не знал, что все эти линии чертились падающими ангелами, лишь поэтому желания, которые было принято загадывать, исполнялись. На большой скорости молодой ангел приземлился. Когда облако пыли рассеялось, стало видно, что он стоит на одном колене, упираясь руками в землю. Сложив свои крылья, он скрыл их от человеческих глаз, его одежда всегда была как земная, и сейчас тоже. Белая борцовка, расстегнутая бледно голубая рубашка без рукавов и темно синие джинсы. Заинтересованно смотря по сторонам, он побрел в сторону города, мимо ехали машины, но он их не замечал. Зайдя в город, он был почти ослеплен неоновыми вывесками и многочис... |
1 |
query: Что что-то не так, интуиция подсказывала Занзасу с самого утра. Благополучно проигнорировав пробуждение с лигром в постели, Бестер периодически спал рядом с хозяином. Занзас лениво но, как известно организму не откажешь, спустился на кухню. Относительно спокойно поев, и избавившись от новоявленного трупа, который пролил на него подливу к мясу, босс всея варии отправился в душ. Быстро вымывшись и обвязав короткое полотенце на бедрах, он вернулся в свою спальню и прилег на кровать рядом с лигром. Немного потрепав его гриву, брюнет разлегся на кровати. Животное же вспомнило, как длинноволосый парень использовал его хозяина как самку. А Бестер по характеру был очень похож на Занзаса собственничеством, по этой причине зверь встал, потоптался на постели и забрался на своего хозяина. Занзас вновь не придал этому значения, принимая за попытку ленивого животного слезть с кровати. Это и было его ошибкой. Своим немалым весом Бестер придавил мужчину к постели, и отдельно придавил одной лапо... |
query: Тсунаеши лежал на постели в одном шелковом халате, ожидая прихода своего парня. Когда дверь отрылась, он развратно развел ножки и принялся вылизывать свои пальцы. |
1 |
MultipleNegativesRankingLoss with these parameters:{
"scale": 100,
"similarity_fct": "cos_sim"
}
sentence1, sentence2, and label| sentence1 | sentence2 | label | |
|---|---|---|---|
| type | string | string | int |
| details |
|
|
|
| sentence1 | sentence2 | label |
|---|---|---|
query: Дело было вечером, когда я отправлялась в гости к Мартине. Я взяла с собой Факундо, и Ксаби. Это мои сумасшедшие, но лучшие друзья. Короче коротко: Я - Лодовика, но можно просто Лодо. |
query: Я - Иккинг. Сын вождя, первый который приручил дракона. |
1 |
query: Дело было вечером, когда я отправлялась в гости к Мартине. Я взяла с собой Факундо, и Ксаби. Это мои сумасшедшие, но лучшие друзья. Короче коротко: Я - Лодовика, но можно просто Лодо. |
query: Виолетта как всегда спала в своей кровати, и, в очередной раз ей снился кошмар. В очередной раз ей снилась ее покойная мать, Мария. Виолетта встала, вся вспотевшая, вся испуганная. |
1 |
query: Дело было вечером, когда я отправлялась в гости к Мартине. Я взяла с собой Факундо, и Ксаби. Это мои сумасшедшие, но лучшие друзья. Короче коротко: Я - Лодовика, но можно просто Лодо. |
query: Я - Джамиля, дочь знатного графа. Моя мать умерла при родах, а я осталась жива. Уже как 20 лет прошло со смерти любящий матери. Мой отец снова женился чтобы у меня был пример для подражания. |
1 |
MultipleNegativesRankingLoss with these parameters:{
"scale": 100,
"similarity_fct": "cos_sim"
}
eval_strategy: epochper_device_train_batch_size: 64per_device_eval_batch_size: 64weight_decay: 0.01num_train_epochs: 5bf16: Trueload_best_model_at_end: Truebatch_sampler: no_duplicatesoverwrite_output_dir: Falsedo_predict: Falseeval_strategy: epochprediction_loss_only: Trueper_device_train_batch_size: 64per_device_eval_batch_size: 64per_gpu_train_batch_size: Noneper_gpu_eval_batch_size: Nonegradient_accumulation_steps: 1eval_accumulation_steps: Nonetorch_empty_cache_steps: Nonelearning_rate: 5e-05weight_decay: 0.01adam_beta1: 0.9adam_beta2: 0.999adam_epsilon: 1e-08max_grad_norm: 1.0num_train_epochs: 5max_steps: -1lr_scheduler_type: linearlr_scheduler_kwargs: {}warmup_ratio: 0.0warmup_steps: 0log_level: passivelog_level_replica: warninglog_on_each_node: Truelogging_nan_inf_filter: Truesave_safetensors: Truesave_on_each_node: Falsesave_only_model: Falserestore_callback_states_from_checkpoint: Falseno_cuda: Falseuse_cpu: Falseuse_mps_device: Falseseed: 42data_seed: Nonejit_mode_eval: Falseuse_ipex: Falsebf16: Truefp16: Falsefp16_opt_level: O1half_precision_backend: autobf16_full_eval: Falsefp16_full_eval: Falsetf32: Nonelocal_rank: 0ddp_backend: Nonetpu_num_cores: Nonetpu_metrics_debug: Falsedebug: []dataloader_drop_last: Falsedataloader_num_workers: 0dataloader_prefetch_factor: Nonepast_index: -1disable_tqdm: Falseremove_unused_columns: Truelabel_names: Noneload_best_model_at_end: Trueignore_data_skip: Falsefsdp: []fsdp_min_num_params: 0fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}fsdp_transformer_layer_cls_to_wrap: Noneaccelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}deepspeed: Nonelabel_smoothing_factor: 0.0optim: adamw_torchoptim_args: Noneadafactor: Falsegroup_by_length: Falselength_column_name: lengthddp_find_unused_parameters: Noneddp_bucket_cap_mb: Noneddp_broadcast_buffers: Falsedataloader_pin_memory: Truedataloader_persistent_workers: Falseskip_memory_metrics: Trueuse_legacy_prediction_loop: Falsepush_to_hub: Falseresume_from_checkpoint: Nonehub_model_id: Nonehub_strategy: every_savehub_private_repo: Nonehub_always_push: Falsegradient_checkpointing: Falsegradient_checkpointing_kwargs: Noneinclude_inputs_for_metrics: Falseinclude_for_metrics: []eval_do_concat_batches: Truefp16_backend: autopush_to_hub_model_id: Nonepush_to_hub_organization: Nonemp_parameters: auto_find_batch_size: Falsefull_determinism: Falsetorchdynamo: Noneray_scope: lastddp_timeout: 1800torch_compile: Falsetorch_compile_backend: Nonetorch_compile_mode: Noneinclude_tokens_per_second: Falseinclude_num_input_tokens_seen: Falseneftune_noise_alpha: Noneoptim_target_modules: Nonebatch_eval_metrics: Falseeval_on_start: Falseuse_liger_kernel: Falseeval_use_gather_object: Falseaverage_tokens_across_devices: Falseprompts: Nonebatch_sampler: no_duplicatesmulti_dataset_batch_sampler: proportional| Epoch | Step | Training Loss | Validation Loss | cosine_ap |
|---|---|---|---|---|
| 1.0176 | 4400 | 1.4186 | - | - |
| 1.0407 | 4500 | 1.4075 | - | - |
| 1.0638 | 4600 | 1.3934 | - | - |
| 1.0870 | 4700 | 1.3799 | - | - |
| 1.1101 | 4800 | 1.3597 | - | - |
| 1.1332 | 4900 | 1.3351 | - | - |
| 1.1563 | 5000 | 1.3082 | - | - |
| 1.1795 | 5100 | 1.3105 | - | - |
| 1.2026 | 5200 | 1.2948 | - | - |
| 1.2257 | 5300 | 1.3486 | - | - |
| 1.2488 | 5400 | 1.3155 | - | - |
| 1.2720 | 5500 | 1.2761 | - | - |
| 1.2951 | 5600 | 1.2541 | - | - |
| 1.3182 | 5700 | 1.2346 | - | - |
| 1.3414 | 5800 | 1.2285 | - | - |
| 1.3645 | 5900 | 1.2013 | - | - |
| 1.3876 | 6000 | 1.1986 | - | - |
| 1.4107 | 6100 | 1.1755 | - | - |
| 1.4339 | 6200 | 1.1937 | - | - |
| 1.4570 | 6300 | 1.202 | - | - |
| 1.4801 | 6400 | 1.1607 | - | - |
| 1.5032 | 6500 | 1.2116 | - | - |
| 1.5264 | 6600 | 1.1797 | - | - |
| 1.5495 | 6700 | 1.1571 | - | - |
| 1.5726 | 6800 | 1.1526 | - | - |
| 1.5957 | 6900 | 1.1438 | - | - |
| 1.6189 | 7000 | 1.1634 | - | - |
| 1.6420 | 7100 | 1.1367 | - | - |
| 1.6651 | 7200 | 1.1133 | - | - |
| 1.6883 | 7300 | 1.1156 | - | - |
| 1.7114 | 7400 | 1.1102 | - | - |
| 1.7345 | 7500 | 1.1123 | - | - |
| 1.7576 | 7600 | 1.1066 | - | - |
| 1.7808 | 7700 | 1.1291 | - | - |
| 1.8039 | 7800 | 1.1094 | - | - |
| 1.8270 | 7900 | 1.094 | - | - |
| 1.8501 | 8000 | 1.1585 | - | - |
| 1.8733 | 8100 | 1.077 | - | - |
| 1.8964 | 8200 | 1.108 | - | - |
| 1.9195 | 8300 | 1.1431 | - | - |
| 1.9426 | 8400 | 1.0784 | - | - |
| 1.9658 | 8500 | 1.0834 | - | - |
| 1.9889 | 8600 | 1.1268 | - | - |
| 2.0 | 8648 | - | 9.6992 | 0.8450 |
| 2.0120 | 8700 | 1.0443 | - | - |
| 2.0352 | 8800 | 0.9715 | - | - |
| 2.0583 | 8900 | 0.957 | - | - |
| 2.0814 | 9000 | 0.9784 | - | - |
| 2.1045 | 9100 | 0.9581 | - | - |
| 2.1277 | 9200 | 0.9569 | - | - |
| 2.1508 | 9300 | 0.9518 | - | - |
| 2.1739 | 9400 | 0.9485 | - | - |
| 2.1970 | 9500 | 0.9433 | - | - |
| 2.2202 | 9600 | 0.9392 | - | - |
| 2.2433 | 9700 | 0.9248 | - | - |
| 2.2664 | 9800 | 0.9105 | - | - |
| 2.2895 | 9900 | 0.9769 | - | - |
| 2.3127 | 10000 | 0.9502 | - | - |
| 2.3358 | 10100 | 0.9604 | - | - |
| 2.3589 | 10200 | 0.9291 | - | - |
| 2.3821 | 10300 | 0.9552 | - | - |
| 2.4052 | 10400 | 0.9621 | - | - |
| 2.4283 | 10500 | 0.9357 | - | - |
| 2.4514 | 10600 | 0.9323 | - | - |
| 2.4746 | 10700 | 0.9327 | - | - |
| 2.4977 | 10800 | 0.9067 | - | - |
| 2.5208 | 10900 | 0.9411 | - | - |
| 2.5439 | 11000 | 0.9305 | - | - |
| 2.5671 | 11100 | 0.9378 | - | - |
| 2.5902 | 11200 | 0.9171 | - | - |
| 2.6133 | 11300 | 0.9074 | - | - |
| 2.6364 | 11400 | 0.9262 | - | - |
| 2.6596 | 11500 | 0.9063 | - | - |
| 2.6827 | 11600 | 0.8814 | - | - |
| 2.7058 | 11700 | 0.9089 | - | - |
| 2.7290 | 11800 | 0.9048 | - | - |
| 2.7521 | 11900 | 0.9268 | - | - |
| 2.7752 | 12000 | 0.8913 | - | - |
| 2.7983 | 12100 | 0.9064 | - | - |
| 2.8215 | 12200 | 0.8585 | - | - |
| 2.8446 | 12300 | 0.878 | - | - |
| 2.8677 | 12400 | 0.8612 | - | - |
| 2.8908 | 12500 | 0.8799 | - | - |
| 2.9140 | 12600 | 0.8541 | - | - |
| 2.9371 | 12700 | 0.8521 | - | - |
| 2.9602 | 12800 | 0.8582 | - | - |
| 2.9833 | 12900 | 0.869 | - | - |
| 3.0 | 12972 | - | 10.4115 | 0.8479 |
@inproceedings{reimers-2019-sentence-bert,
title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
author = "Reimers, Nils and Gurevych, Iryna",
booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
month = "11",
year = "2019",
publisher = "Association for Computational Linguistics",
url = "https://arxiv.org/abs/1908.10084",
}
@misc{henderson2017efficient,
title={Efficient Natural Language Response Suggestion for Smart Reply},
author={Matthew Henderson and Rami Al-Rfou and Brian Strope and Yun-hsuan Sung and Laszlo Lukacs and Ruiqi Guo and Sanjiv Kumar and Balint Miklos and Ray Kurzweil},
year={2017},
eprint={1705.00652},
archivePrefix={arXiv},
primaryClass={cs.CL}
}
Base model
intfloat/multilingual-e5-base