Сообщения в idec.talks

Re: Новый узел IDEC http://shaos.net:8085

Ответ на сообщение
> Это я случайно выкачал всю ноду ибо забыл в ii-tool fetch добавить -
> тестил формат базы ii-go. По крайней мере подсеть моя
тото я смотрю юзер-агент "Go-http-client/1.1" :)
> Вот только сегодня я ничего не фетчил, только вчера
дык я живу во вчера (Калифорния) - у меня 1 октября только пару часов назад наступило ;)
shaos to doesnm (2024-10-01 09:33:37) [ссылка]

Re: Новый узел IDEC http://shaos.net:8085

Ответ на сообщение
shaos> Как можно видеть ping действительно меньше всех берёт, а вот tavern получается самая злобнокачающая нода :)
Потому что она на древнем -- мы тогда индексы целиком гоняли. Если напрягает, могу погасить фетчер пока не перепишу узел.
+++ Лично я вижу в этом перст судьбы – шли по лесу и встретили программиста.
Andrew Lobanov to shaos (2024-10-01 09:25:00) [ссылка]

Re: Новый узел IDEC http://shaos.net:8085

Ответ на сообщение
shaos> Ну вот когда пересяду на мускульную реализацию - страхи должны исчезнуть :)
shaos> Пока вот подсчитал аналитику за 30 сентября 2024 года (количество дёрганий апи поинта в час подсчитано в среднем по информации за сутки):
shaos> [1] 62.109.31.x point=144 web=0 49958KB <--- tavern 6/hr
shaos> [2] 62.140.249.x point=5 web=3 7342KB <--- ?
shaos> [3] 92.63.98.x point=72 web=0 4784KB <--- tgi 3/hr
shaos> [4] 95.165.9.x point=211 web=0 2519KB <--- ping 8/hr
shaos> [5] 66.249.79.x point=111 web=340 2218KB <--- Googlebot 4/hr
shaos> [6] 24.6.124.x point=1 web=57 387KB <--- Me testing
shaos> [7] 92.246.138.x point=0 web=1 311KB
shaos> [8] 122.161.50.x point=0 web=1 143KB
shaos> [9] 172.59.160.x point=0 web=14 124KB
shaos> [10] 5.255.231.x point=0 web=17 106KB
shaos> Как можно видеть ping действительно меньше всех берёт, а вот tavern получается самая злобнокачающая нода :)
shaos> И кстати кто это 62.140.249.x из Москвы?
Это я случайно выкачал всю ноду ибо забыл в ii-tool fetch добавить -
тестил формат базы ii-go. По крайней мере подсеть моя
Вот только сегодня я ничего не фетчил, только вчера
+++ Никто не знает, как правильно. Так зачем же выдумывать правила?
doesnm to shaos (2024-10-01 09:18:56) [ссылка]

Re: Новый узел IDEC http://shaos.net:8085

Ответ на сообщение
Добавил распознавание синапса (бот от Matrix.org) и яндексбота (а также переместил название ботов в колонку адреса т.к. боты частенько лезут с совершенно разных подсеток):

30 сентября 2024:

[1] 62.109.31.x point=144 web=0 49958KB <--- tavern ~6/hr
[2] 62.140.249.x point=5 web=3 7342KB <--- ?
[3] 92.63.98.x point=72 web=0 4784KB <--- tgi ~3/hr
[4] 95.165.9.x point=211 web=0 2519KB <--- ping ~8/hr
[5] Google point=111 web=340 2218KB
[6] 24.6.124.x point=1 web=57 387KB <--- shaos
[7] 92.246.138.x point=0 web=1 311KB
[8] YandexBot point=1 web=37 305KB
[9] 122.161.50.x point=0 web=1 143KB
[10] 172.59.160.x point=0 web=14 124KB

29 сентября 2024:

1] 62.109.31.x point=144 web=0 51721KB <--- tavern ~6/hr
[2] 92.63.98.x point=72 web=0 4757KB <--- tgi ~3/hr
[3] Google point=206 web=340 3465KB
[4] 64.176.188.x point=0 web=1 1147KB
[5] 37.114.63.x point=0 web=1 1124KB
[6] 95.165.9.x point=284 web=0 984KB <--- ping ~11/hr
[7] 24.6.124.x point=18 web=42 409KB <--- shaos
[8] YandexBot point=2 web=19 59KB
[9] 75.119.144.x point=0 web=2 31KB
[10] 172.56.42.x point=1 web=0 19KB <--- ?

28 сентября 2024:

[1] 62.109.31.x point=144 web=0 51972KB <--- tavern ~6/hr
[2] Google point=168 web=569 5176KB
[3] 92.63.98.x point=72 web=0 4758KB <--- tgi ~3/hr
[4] 185.80.221.x point=0 web=3 4430KB
[5] 51.195.94.x point=0 web=2 2248KB
[6] Synapse point=14 web=9 1691KB
[7] 64.176.181.x point=0 web=1 1147KB
[8] 95.165.9.x point=218 web=0 759KB <--- ping ~9/hr
[9] 24.6.124.x point=13 web=80 594KB <--- shaos
[10] 62.140.249.x point=1 web=2 537KB <--- ?

27 сентября 2024:

[1] 62.109.31.x point=144 web=0 51802KB <--- tavern ~6/hr
[2] DataForSeoBot point=0 web=29 8572KB
[3] 92.63.98.x point=72 web=0 4719KB <--- tgi ~3/hr
[4] Google point=81 web=204 1543KB
[5] Synapse point=2 web=5 838KB
[6] 95.165.9.x point=235 web=0 828KB <--- ping ~9/hr
[7] 62.140.249.x point=1 web=5 558KB <--- ?
[8] 89.82.213.x point=0 web=1 458KB
[9] 46.148.50.x point=0 web=3 277KB
[10] 188.40.204.x point=1 web=3 271KB <--- ?

26 сентября 2024:

[1] 62.109.31.x point=139 web=0 49453KB <--- tavern ~5/hr
[2] Google point=371 web=727 13667KB
[3] 92.63.98.x point=69 web=0 4499KB <--- tgi ~2/hr
[4] 95.165.9.x point=283 web=0 979KB <--- ping ~11/hr
[5] 24.6.124.x point=3 web=97 795KB <--- shaos
[6] 172.56.42.x point=0 web=15 145KB
[7] 172.56.43.x point=0 web=11 40KB
[8] YandexBot point=2 web=18 39KB
[9] 188.18.8.x point=0 web=1 11KB
[10] 114.119.139.x point=3 web=0 3KB <--- ?

Также теперь под Google понимается 2 агента - Googlebot и GoogleOther (оба лезут из главного гуголового оффиса в Mountain View, CA)
shaos to shaos (2024-10-01 09:09:25) [ссылка]

Re: Новый узел IDEC http://shaos.net:8085

Ответ на сообщение
Для сравнения тоже самое за вчера (29 сентября 2024 года):

[1] 62.109.31.x point=144 web=0 51721KB <--- tavern 6/hr
[2] 92.63.98.x point=72 web=0 4757KB <--- tgi 3/hr
[3] 66.249.79.x point=206 web=340 3465KB <--- Googlebot 8/hr
[4] 64.176.188.x point=0 web=1 1147KB
[5] 37.114.63.x point=0 web=1 1124KB
[6] 95.165.9.x point=284 web=0 984KB <--- ping 11/hr
[7] 24.6.124.x point=18 web=42 409KB <--- Me testing
[8] 75.119.144.x point=0 web=2 31KB
[9] 95.108.213.x point=1 web=10 27KB <--- ?
[10] 172.56.42.x point=1 web=0 19KB <--- ?

И позавчера (28 сентября 2024 года):

[1] 62.109.31.x point=144 web=0 51972KB <--- tavern 6/hr
[2] 66.249.79.x point=168 web=569 5170KB <--- Googlebot 7/hr
[3] 92.63.98.x point=72 web=0 4758KB <--- tgi 3/hr
[4] 185.80.221.x point=0 web=3 4430KB
[5] 51.195.94.x point=0 web=2 2248KB
[6] 176.126.240.x point=11 web=7 1404KB <--- ?
[7] 64.176.181.x point=0 web=1 1147KB
[8] 95.165.9.x point=218 web=0 759KB <--- ping 9/hr
[9] 24.6.124.x point=13 web=80 594KB <--- Me testing
[10] 62.140.249.x point=1 web=2 537KB <--- ?

Интересно откуда гуглобот знает апи поинта? Подсмотрел в чьём-то ведроидовском клиенте IDEC?...
shaos to shaos (2024-10-01 08:35:14) [ссылка]

Re: Новый узел IDEC http://shaos.net:8085

Ответ на сообщение
Ну вот когда пересяду на мускульную реализацию - страхи должны исчезнуть :)

Пока вот подсчитал аналитику за 30 сентября 2024 года (количество дёрганий апи поинта в час подсчитано в среднем по информации за сутки):

[1] 62.109.31.x point=144 web=0 49958KB <--- tavern 6/hr
[2] 62.140.249.x point=5 web=3 7342KB <--- ?
[3] 92.63.98.x point=72 web=0 4784KB <--- tgi 3/hr
[4] 95.165.9.x point=211 web=0 2519KB <--- ping 8/hr
[5] 66.249.79.x point=111 web=340 2218KB <--- Googlebot 4/hr
[6] 24.6.124.x point=1 web=57 387KB <--- Me testing
[7] 92.246.138.x point=0 web=1 311KB
[8] 122.161.50.x point=0 web=1 143KB
[9] 172.59.160.x point=0 web=14 124KB
[10] 5.255.231.x point=0 web=17 106KB

Как можно видеть ping действительно меньше всех берёт, а вот tavern получается самая злобнокачающая нода :)

И кстати кто это 62.140.249.x из Москвы?
shaos to Andrew Lobanov (2024-10-01 08:29:35) [ссылка]

Re: Первая коллизия???

Ответ на сообщение
> Я просто не могу себе представить пользу от архива новостей ЛОРа и опеннета. Оно полезно в моменте.
Ну вот сидит человек скажем за Спринтером или за ZX-спектрумом и через сетевушку читает ii/IDEC эхи - захотел окнутуся так сказать в историю ну или поиск организовал по ключевому слову - скажем Knoppix и смотрит чего там когда оно упоминалось - круто же? ;)

shaos to Andrew Lobanov (2024-10-01 08:23:03) [ссылка]

Re: Первая коллизия???

Ответ на сообщение
shaos> Ну архив тоже типа эха - или когда создали новую, то старую удалили и забыли? ;)
Я просто не могу себе представить пользу от архива новостей ЛОРа и опеннета. Оно полезно в моменте.
shaos> Я вот поиск хочу нагородить по всем эхам, что у меня есть - включая архивные :)
Бывает :)
+++ Лично я вижу в этом перст судьбы – шли по лесу и встретили программиста.
Andrew Lobanov to shaos (2024-10-01 07:54:47) [ссылка]

Re: Новый узел IDEC http://shaos.net:8085

Ответ на сообщение
shaos> Нууу, даунлинки только читают, но в это же время могут случится мои фетчи с тех же самых узлов и если оно всё слишком часто происходит, то велика вероятность того, что одно наступит на пятки другому...
Ну мьютексами обмажь, если боишься такой судьбинушки :)
+++ Лично я вижу в этом перст судьбы – шли по лесу и встретили программиста.
Andrew Lobanov to shaos (2024-10-01 07:54:47) [ссылка]

Re: Новый узел IDEC http://shaos.net:8085

Ответ на сообщение
shaos> И потом у меня всё ещё БД на файлах - вдруг кто-то чего-то затрёт/перетрёт одновременно с кем-то другим...
а в этом есть что-то плохое? я вот думаю взять iii именно из-за этого
Но что там с скрытыми эхами?
+++ Никто не знает, как правильно. Так зачем же выдумывать правила?
doesnm to shaos (2024-10-01 07:23:42) [ссылка]

Re: Новый узел IDEC http://shaos.net:8085

Ответ на сообщение
Нууу, даунлинки только читают, но в это же время могут случится мои фетчи с тех же самых узлов и если оно всё слишком часто происходит, то велика вероятность того, что одно наступит на пятки другому...
shaos to Andrew Lobanov (2024-10-01 06:33:33) [ссылка]

Re: Первая коллизия???

Ответ на сообщение
Ну архив тоже типа эха - или когда создали новую, то старую удалили и забыли? ;)
Я вот поиск хочу нагородить по всем эхам, что у меня есть - включая архивные :)
shaos to Andrew Lobanov (2024-10-01 06:07:32) [ссылка]

Re: Новый узел IDEC http://shaos.net:8085

Ответ на сообщение
shaos> И потом у меня всё ещё БД на файлах - вдруг кто-то чего-то затрёт/перетрёт одновременно с кем-то другим...
А у тебя даунлинки могут что-то тереть?
+++ Лично я вижу в этом перст судьбы – шли по лесу и встретили программиста.
Andrew Lobanov to shaos (2024-10-01 05:48:36) [ссылка]

Re: Первая коллизия???

Ответ на сообщение
shaos> Я не вижу нового сообщения - ii-php показывает в idec.talks старую новость из lor-opennet, а таверна глючит в lor-opennet застряв на том сообщении, но перезапомнив дату как будто оно самое новое и при попытке перемотать ленту до конца оно снова перескакивает на него
Откуда вообще столько шума из-за мёртвой эхи? Актуальная это ii://lor.opennet же.
+++ Лично я вижу в этом перст судьбы – шли по лесу и встретили программиста.
Andrew Lobanov to shaos (2024-10-01 05:46:16) [ссылка]

Re: Новый узел IDEC http://shaos.net:8085

Ответ на сообщение
И потом у меня всё ещё БД на файлах - вдруг кто-то чего-то затрёт/перетрёт одновременно с кем-то другим...
shaos to shaos (2024-10-01 05:38:14) [ссылка]

Re: Новая RSS-эха на английском языке - bot.slashdot (News for Nerds from slashdot.org)

Ответ на сообщение
В этой новой эхе уже больше 100 сообщений! :)

Новый способ посмотреть её через веб:

https://sprinternet.io/iii-web.php?echo=bot.slashdot
shaos to shaos (2024-10-01 05:37:01) [ссылка]

Re: Новый узел IDEC http://shaos.net:8085

Ответ на сообщение
Просьба связана с перестраховкой :)
У меня этот сервак на домашнем линухе крутится и подключение через кабельного оператора - мало ли что…
А так я сейчас занялся программой аналитики для своей версии ii-php - ежесуточно буду считать кто сколько и как часто качает - тогда будет видно реальный трафик
shaos to hugeping (2024-09-30 21:45:34) [ссылка]

Re: Первая коллизия???

Ответ на сообщение
Я не вижу нового сообщения - ii-php показывает в idec.talks старую новость из lor-opennet, а таверна глючит в lor-opennet застряв на том сообщении, но перезапомнив дату как будто оно самое новое и при попытке перемотать ленту до конца оно снова перескакивает на него
shaos to hugeping (2024-09-30 21:40:12) [ссылка]

Re: Новый узел IDEC http://shaos.net:8085

Ответ на сообщение
shaos> Ну если общий фетч то ок - пусть будет 5 мин - может я тогда свои фетчи тоже почаще сделаю…
Я уже поменял на 10 (но хотел бы вернуть на 5). Но на самом деле фетч может быть по разному написан. Если ты каждый раз сливаешь полный список айдишников, лучше конечно пореже. Но мой фетчер работает по другому, поэтому я и удивился. Там мизерные запросы. Поэтому хочу уточнить, с чем связана просьба?
hugeping to shaos (2024-09-30 20:21:24) [ссылка]

Re: Первая коллизия???

Ответ на сообщение
shaos> Наверное если только одна эха есть из этих двух то ок:
shaos> idec.talks:v2gj6Qx0JJmoNlcjcJlg
idec.talks у меня есть, но сообщения этого нет. Это странно. Может всё-таки у кого-то сбойнуло что-то? Проверяли по коду - хеш действительно совпадает если его перерассчитать?
hugeping to shaos (2024-09-30 20:19:52) [ссылка]

Re: Первая коллизия???

Ответ на сообщение
Наверное если только одна эха есть из этих двух то ок:

idec.talks:v2gj6Qx0JJmoNlcjcJlg
lor-opennet.17:v2gj6Qx0JJmoNlcjcJlg
shaos to hugeping (2024-09-30 18:54:33) [ссылка]

Re: Новый узел IDEC http://shaos.net:8085

Ответ на сообщение
Ну если общий фетч то ок - пусть будет 5 мин - может я тогда свои фетчи тоже почаще сделаю…
shaos to hugeping (2024-09-30 18:51:32) [ссылка]

Re: Первая коллизия???

Ответ на сообщение
shaos> Ну вот же :)
shaos> ====
shaos> if len(msgid) == 20 and m[1]:
shaos> ====
shaos> в iing стоит проверка на равенство длины числу 20 :)
У меня тоже судя по коду стоит проверка на 20. Это точно не в стандарте?
hugeping to shaos (2024-09-30 18:24:57) [ссылка]

Re: Первая коллизия???

Ответ на сообщение
shaos> Предлагаю этот раздвоенный msgid включить всем в blacklist.txt т.к. он вызывает проблемы на разных нодах:
shaos> v2gj6Qx0JJmoNlcjcJlg
Гм, у меня нет такого сообщения в базах... Наверное я не фетчу эти эхи.
hugeping to shaos (2024-09-30 18:22:08) [ссылка]

Re: Новый узел IDEC http://shaos.net:8085

Ответ на сообщение
shaos> Можно сделать раз в 10 минут вместо каждые 5? ;)
shaos> И заодно новый https:// префикс можешь испрользовать вместо кривого ...php?q=/
shaos> https://sprinternet.io/iii/
На https я поменял. А почему 5 минут это проблема? Там по трафику ничего нет, если нет новых сообщений... Просто у меня единый фетч на все станции и мне нравится оперативно получать ответы.
hugeping to shaos (2024-09-30 18:20:52) [ссылка]

Re: Другие эхи

Ответ на сообщение
>> Либо свою ноду поднять. Но оно вообще надо?
shaos> Ну тоже вариант, но надо будет с другими узлами договариваться, чтобы у тебя забирали
Ну я в любом случае подниму свою ноду. Хочу поэкспементировать с emailtoii скриптами из ii-db-tools чтобы почту читать с цезия
+++ Никто не знает, как правильно. Так зачем же выдумывать правила?
doesnm to shaos (2024-09-30 14:51:45) [ссылка]

Re: Другие эхи

Ответ на сообщение
> Либо свою ноду поднять. Но оно вообще надо?
Ну тоже вариант, но надо будет с другими узлами договариваться, чтобы у тебя забирали
shaos to doesnm (2024-09-30 14:18:53) [ссылка]

Re: Другие эхи

Ответ на сообщение
shaos> Ну читать другие эхи можно где угодно, а вот чтобы писать в них существует два пути:
shaos> 1) попросить сисопа твоего узла прокинуть интересующие тебя эхи
shaos> 2) стать поинтом другого узла ;)
Ну мой сисоп походу тут не сидит
Значит надо еще один акк...
Либо свою ноду поднять. Но оно вообще надо?
+++ Никто не знает, как правильно. Так зачем же выдумывать правила?
doesnm to shaos (2024-09-30 12:01:47) [ссылка]

Re: Другие эхи

Ответ на сообщение
Ну читать другие эхи можно где угодно, а вот чтобы писать в них существует два пути:

1) попросить сисопа твоего узла прокинуть интересующие тебя эхи

2) стать поинтом другого узла ;)
shaos to doesnm (2024-09-30 11:34:46) [ссылка]

Re: Первая коллизия???

Ответ на сообщение
Ну вот же :)
def debundle(bundle):
    for msg in bundle:
        if msg:
            m = msg.split(":")
            msgid = m[0]
            if len(msgid) == 20 and m[1]:
                msg = base64.b64decode(m[1].encode("ascii")).decode("utf8").split("\n")
                c.execute("INSERT INTO msg (msgid, tags, echoarea, time, fr, addr, t, subject, body) VALUES (?, ?, ?, ?, ?, ?, ?, ?, ?);", (msgid, msg[0], msg[1], msg[2], msg[3], msg[4], msg[5], msg[6], "\n".join(msg[8:])))
    con.commit()
в iing стоит проверка на равенство длины числу 20 :)
shaos to shaos (2024-09-30 11:24:59) [ссылка]