Универсальный баз данных тред #12 /sql/ 3382705 В конец треда | Веб
Прошлый >>3268780 (OP)

Туториалы:
- https://www.postgresqltutorial.com/
- https://www.sqlitetutorial.net/
- https://www.oracletutorial.com/
- https://www.mysqltutorial.org/

Задачи:
- https://www.sql-ex.ru
- https://www.codewars.com/?language=sql

Инструменты проектирования БД
- Визуализация планов запросов PostgreSQL: https://explain.dalibo.com/
- GUI-клиент для работы с БД: https://dbeaver.io/

Видосики:
- Плейлисты по разным СУБД: https://www.youtube.com/c/SQLDeveloperBI/playlists
- https://www.youtube.com/playlist?list=PLY7PmJJFH5nT-lbFKxfbp3rw5BBuq5Azo

Литература:
- Томас Кайт. Oracle для профессионалов
- https://postgrespro.ru/education/books/dbtech
- Алан Бьюли. Изучаем SQL. - про MySQL
- К. Дж. Дейт. Введение в системы баз данных
- Database Systems: Design, Implementation, & Management (Carlos Coronel, Steven Morris)

Прочее:
- https://github.com/agarcialeon/awesome-database
- https://dbdb.io/
- https://db.cs.cmu.edu/
- https://www.youtube.com/channel/UCHnBsf2rH-K7pn09rb3qvkA/playlists
- Сравнение диалектов SQL: http://troels.arvin.dk/db/rdbms/
- Как БД работают изнутри: https://habr.com/ru/company/mailru/blog/266811/

Ссылки для альтернативно мыслящих:
- https://www.w3schools.com/sql/
- https://learnxinyminutes.com/docs/sql/
- https://metanit.com/sql/
- http://sql-tutorial.ru/
- https://metanit.com/nosql/mongodb/
- https://www.mysqltutorial.org/mysql-resources.aspx
- https://shlomi-noach.github.io/awesome-mysql/
- https://www.mysql.com/products/workbench/

FAQ:
Q: Нужно ли знать английский?
A: Нет.

Q: Что лучше, SQL или NoSQL?
A: SQL.

Q: Вопросы с лабами и задачками
A: Задавай, ответят, но могут и обоссать.

Q: Помогите с :ORM_нейм для :язык_нейм
A: Лучше спроси в тредах по конкретным языкам.

Q: Где хранить файлы?
A: Не в БД. Для этого есть объектные хранилища, такие как Amazon S3 и Ceph.

Q: Нужны ли сертификаты?
A: Только если собираешься заводить трактор.

Здесь мы:
- Разбираемся, почему PostgreSQL - не Oracle
- Пытаемся понять, зачем нужен Тырпрайс, если есть бесплатный опенсурс
- Обсуждаем, какие новые тенденции хранения данных появляются в современном цифровом обеществе
- Решаем всем тредом лабы для заплутавших студентов и задачки с sql-ex для тех, у кого завтра ПЕРВОЕ собеседование
- Анализируем, как работает поиск вконтакте
- И просто хорошо проводим время, обсирая чужой код, не раскрывая, как писать правильно.

Поехали!
2 3390015

>06/02/25


За 10 дней ни одного поста.
3 3390034
>>390015
Ну я вкатуджон, я задавал вопросы и Вы меня выгнали с такой формулировкой мол читай зе факинг мануал, ну тогда сами постите, если мне рот затыкаете.
.png56 Кб, 1273x384
# OP 4 3390036
>>390015
Мне этот пост >>3272255 → в шапку засунуть?
5 3390042
>>390034
Да знаем мы твои "посты":
- Хочу вкатиться хуй пойми куда увидев рекламу говнокурсов
- Сделайте за меня задачу, условие которой надо угадать или выпытывать у меня пол треда
- Вот запрос на две страницы. Почему у васи хуй на лбу? Нет, стурктуры таблиц не будет. А... и я имел ввиду почему у лены пизда до колена. То есть почему у васи пизда на лбу до колена... Че вы доебались до мелочей, я конкретный вопрос задал.
6 3390120
>>382705 (OP)
В чем смысл на новый проект ставить mysql вместо постгри? Какие у нее вообще плюсы есть в сравнении?
7 3390283
>>390120
Ну мне mysql больше понравился в плане "легковесности" если конечно локально ставить. Попроще в развертывании и не так загружает "железо".
8 3390311
Примеры вакух спецов по базам данных есть? Как искать вакансии?
Screenshot20250216181950hh jobs.jpg268 Кб, 720x1600
9 3390323
Ебануцо! Вкат нереальный.
10 3390354
>>390323

>908 откликнулось


>10 смотрят


>45 тысяч до вычета налогов


>до вычета


Это пиздец.
11 3390408
>>390323
Моя первая работа с базами данных была на компанию в регионах в 2017 году. Платили 30к гросс. Даже тогда я считал это рабством ебаный. Работа в коллекторском агентстве Сбера - дочерняя компания. Но я благодарен этому опыту, ибо я там делал отчётность и писал десятки запросов в день.

Тут же натурально работа только на еду. Даже на койко место + еду в ДС не хватит.
Screenshot 2025-02-16 194112.png595 Кб, 2828x832
12 3390462
>>390323
>>390354
>>390408
Слепошарые заводчане, это вечерняя подработка для профильных студней, которые хотят себе на карманные расходы подзаработать. Пицценосцам и курсожорам там один хуй ничего не светит.
13 3390488
>>390283
А без "субъективно"? Я только слышал где-то мол mysql умеет как-то круто клатеризоваться
14 3400148
Передо мной сейчас стоит выбор: после универа пойти работать в гос НИИ со средней зарплатой, но где всем пофиг что ты делаешь или через стажировку в банк, где, как я понял из прошлого треда, тебя будут выматывать постоянными созвонами и дедлайнами, но будут много платить. Что посоветуете? Есть аноны кто работал в около гос секторе?
15 3400169
>>400148

>но будут много платить.


раньше да, сейчас уже не так много и ебли в сто раз больше.

тебе точно в НИИ. сужу только потому, как ты сформулировал вопрос и основываясь на твоих сомнениях.

а вообще тут не правильного ответа, в обоих случаях свои плюсы и минсы. Пойти в НИИ не значит, что ты всю жизнь будешь за гроши чаи с кузьмичами гонять, так же как и банк далеко не всегда сулит брольшие горы.

если бы ты задал такой же вопрос лет 10-15 назад, когда я заканчивал ВУЗ. тогда точно бы банк.
16 3400180
>>400169
Спасибо за ответ! Сам кем работаешь, анон, если не секрет?
17 3400195
>>400180
C/C++/C# разраб
у меня есть опыт работы в банковской сфере (небольшой)
скипнул. да скорее всего я просто неудачно попал в неудачное время, но...
На собесе "Нам срочно надо, ряяя...похуй что это не знаешь, разберешся по ходу, время будет".
По факту уже на второй недели началось...
"Это короче бросай, потом доделаешь. тут крупный клиент, вот это надо сделать быстро, срок.."Ну за сегодня сможешь?"
никогда не забуду это состояние опустошения после работы.
когда тебя ебут по срокам, работа на выходных и вместо того, чтобы разобраться и сделать нормально, делаешь абы как лишь бы в тайминг уложиться.
18 3400206
>>400195

> C/C++/C# разраб


Это круто, я тоже думаю подтянуть C/C++ в перспективе

> у меня есть опыт работы в банковской сфере (небольшой)


А сейчас в какой сфере работаешь?

> "Ну за сегодня сможешь?"


Вот тоже не нравится это. С первого курса не мог терпеть эту срочность. Хочется верить, что есть места где можно вдумчиво работать и разбираться в коде, а не скакать по верхам
19 3400241
>>400206

>А сейчас в какой сфере работаешь?


C#/бэкенд

>вдумчиво работать и разбираться в коде, а не скакать по верхам


НИИ или opensource)
20 3400958
сап, прохожу обучение в местной компании на sql аналитика, лучших учеников заберут на работу.
знания имею базовые, выше джоина пока не знаю, все, что показывали на обучении, выглядело как тонна бесполезной инфы, впадлу все это учить
и вот вопрос, а с помощью нейросети, которая, по моему мнению, может спокойно писать любой запрос, еще учитывая мою помощь с умением читать код: смогу ли я таким там свободно работать этим способом? или есть подводные? или может люди уже так и работают? или работодатель будет очень недоволен если увидит, что я черпаю помощь у ИИ? или всем поебать будет, главное делай работу
21 3400989
>>400958

>лучших учеников заберут на работу.


>тонна бесполезной инфы, впадлу все это учить


>я черпаю помощь у ИИ


Ты уже не подходишь под определение лучшего ученика. Вообще скуль учится буквально за месяц, если не за недели две, по крайней мере на уровне аналитика. Напряги сраку и осиль ты этот простейший синтаксис.
22 3400991
>>400989
а я под него и не планирую подходить, я не отличник/зубрила/ботан, чтобы всю эту хуйню выучивать, если я могу за пару секунд ответ получить, и мне и компании это в плюс, 2025 год уже
23 3400992
>>400958

> sql аналитика


Чиво блядь? Писать скули может даже саппорт если припрёт, а учить тебя должны не скулю, а билять аналитике.

> всем поебать будет, главное делай работу


this. Только ценность аналитика не втом чтобы писать скули, а в том чтобы знать что писать и как интерпретировать результат. Удачи в начинании лох.
24 3400993
но за ответ спасибо
25 3400996
>>400992
тебе тоже спасибо бро
26 3401152
>>400958
В этом и суть что sql отличает нормального аналитика от Мани-эксельщика который научился ВПРы делать.

АналИтики часто завязаны на предметную область. Банки, ритеил, риски, etc. А с умением в sql ты можешь быстро перекатиться из одной предметной области в другую.
27 3401346
>>401152
А насколько быстро осуществляется вкат в предметную область? Реально самому обучиться? Например, для продуктовой аналитики нужно знать метрики, их вроде несложно выучить. А вот в банковской сфере надо знать дохрена, т.к. предметная область обширная.
28 3401514
>>401346
Анрил узнать это вне работы. Только непосредственно на работе познаешь
image.png356 Кб, 778x672
29 3402912
Почему ни в одной книге сука нет примеров блокировок, когда их применять и для чего.
Нашел 1 страницу просто с описанием и в книге больше нет никаких примеров как и в других книгах.

Что за пиздец? Когда их применяют? Какие юзкейсы?
30 3403057
>>402912
Вот есть у тебя таблица с кучей путей к файлам. Ты хочешь их обработать. Берёшь и начинаешь в несколько потоков читать из таблицы. Появляется проблема - разные потоки могут выбрать из базы один и тот же файл и начать его пердолить. Это плохо и потому, что лишняя работа, и потому, что сами файлы тоже будут лочиться на диске. Решение - каждый поток, когда делает select из таблицы, блокирует эти строки. Тогда другие потоки их не получат, если будут делать select + skip locked. Проблема решена. Может быть другая проблема с неотпусканием блокировки, если процесс вдруг завис, например. Поэтому можно ещё мониторить и прибивать процессы, которые слишком долго работают.
31 3403314
>>402912

>MySql


>InnoDB


Эт чё?
32 3403332
>>403057
Ты делаешь это неправильно. Надо просто разбить батч на части и каждому воркеру дать свое подмножество. Тогда и блокировки не потребуются.
33 3403335
>>403332
Прочитать всю таблицу, разбить на батчи, запомнить какой батч кому дал и проконтролировать что он обработан. Короче написать целое приложение, которое таблицу на батчи делит.

И все это вместо двух процедур: getRowsForProcessing() и markRowsAsProcessed() . Вот уж внатуре - ебанутым нет покоя.
34 3403336
>>403335
А потом железная женщина будит тебя в три утра, потому что твой сервис опять залочил бд и пошли пятисотые.
35 3403343
>>403336
Какая женщина, ебанько? Блокировка на изменение строк вешается. "залочил бд" - что это вообще нахуй означает? У тебя, долбоеба, все транзакции блокировку вешают.

Каждый раз в ахуе с таких кретинов. Ну не понимает нихуя в теме, но надо высраться обязательно. Про каких-то женщин, про блокировку базы, хуйню малафью.
36 3403352
>>402912
Потому что практические примеры познаются, как ни странно, на практике. Всех ситуаций не предугадаешь, самый простой и часто встречающийся пример - транзакция на списание денег со счёта.
Думай сам, включай фантазию.
https://vladmihalcea.com/race-condition/
Вот например, когда обосрались с изоляцией транзакций.
37 3403353
>>403332

>Надо просто разбить батч на части


Как? Я сейчас так и делаю, беру по несколько строк (батч) и их блокирую. Если не блокировать строки, то надо отдельно мониторить, какие строки сейчас каким воркером обрабатываются.
38 3403361
Разбить батч на батчи.
39 3403381
>>403361
Ок. Разбил. Какой батч батча уже в работе, а какой нет?
40 3403422
>>403343

>кококо я фулстек мартышка из епама

41 3403426
>>403422
Беги бд разлочивать, пицценосец.
42 3403428
>>403353
Первым N строкам присваиваешь worker=1, следующим N строкам worker=2 и так далее. Каждый воркер знает свой номер, они уникальные, и селектит только строки со своим номером. Воркер обрабатывает только свои строки, никакой гонки, блокировка не нужна.
43 3403436
>>403428

>Каждый воркер знает свой номер


Откуда? Есть пул свободных воркеров, они не знают ничего о других воркерах. Они работают независимо.
С блокировкой ты просто селектишь незалоченные строки, их лочишь и работаешь с ними. Транзакция либо завершается, если воркер отработал, или откатывается, если воркер почему-то помер. В любом случае лок снимается, и с этими строками можно опять работать (если прошлый воркер умер). Ничего сверх этого писать не надо. Ну кроме одного случая, который я описал, когда воркер завис.
44 3403458
>>403436
Падажжи, ты собираешься держать транзакцию все время пока работает воркер?
45 3403461
>>403428

>строкам присваиваешь


>блокировка не нужна


Бля, кретин ебаный. Во первых, во время "присваивания" строки будут заблокированы. А во вторых, на таблицу с миллионом записей тебе придется сделать миллион апдейтов.
46 3403473
>>403461
Лол, так ты вообще не из айти. Дай угадаю: ты сраный препод из сраного замкадского каледжа. Ох уж эти провинциалы!
47 3403477
>>403458
Нет, пока он строки не получит для работы.
Перечитал, понял, что ебануто написало про "воркер отработал". Имел в виду "воркер отработал с БД", а не вообще всю таску.
48 3403480
>>403477
Окей, как ты лочишь таски, чтобы другой воркер их не начал обрабатывать?
49 3403492
>>403480
1.
SELECT id
FROM queue
WHERE status = 0
LIMIT 10
FOR UPDATE SKIP LOCKED;

2.
UPDATE queue
SET status = 1
WHERE id IN (<список>)
RETURNING id;

Плюс дополнительно можно pid воркера записать сразу, и периодически проверять, что он не помер или не завис.
50 3403514
>>403492
Это оракл, что ли?
51 3403516
>>403514
Постгрес. В оракле не смотрел, можно ли так, мы всё равно с него укатываемся.
52 3403620
>>403314
Это не для детей
53 3403700
>>400148
Конечно в НИИ лол, будешь сидеть там лет 50 на жопе ровно в расслабленном темпе делать, что там тебе надо без мозгоебства.
Параллельно можно где-то подрабатывать или частные заказики делать.
Я работаю сейчас в прямо противоположной сфере и меня так это уже заебало, что нет сил никаких. Соковыжималка, никому не советую.
54 3403702
>>403700
Не советуешь что, дурачек, где конкретика, НИИ-форсер
55 3403727
>>403620
Да, это для студентов и пхпшников.
56 3403731
>>403702
Консалтинг
57 3403748
>>403727
Ребенок, тут взрослые сидят, иди в b играйся
17407099563440.mp4464 Кб, mp4,
320x288, 0:09
58 3405574
Где прочитать про то как делают?

Вот допустим пользователя надо удалить
1. Удаляется все записи каскадно.
2. Помечается удален, но запись остается
3. Удаляется все нахуй каскадно, но все записи переносятся в копию БД удаленных клиентов, это типа архив со всеми кишками, кто что заказал и прочее. И в таком случае как поддерживать структуру таблиц там и там - мне кажется бред. Проще софт делит сделать как в пункте 2.

Тут пунукт 2 обычно выбирается? А если юзер повторно с номера решил зарегатся то что?

Или как такое делается? Это бизнес процессы называются или как. Хотя бизнес процессы это другое, а тут как бы внутренняя хоботня - вот как такое называется?

Где про эти механизмы можно прочитать и кто это делает? Архитектор? А с кем он согласует подобное поведение приложения?
59 3405641
>>405574
Гугли GDPR.
60 3406183
>>405574

>Тут пунукт 2 обычно выбирается?


Да, история не удаляется, пользователь отмечается каким-то флагом внутренним. Потом через какое-то время вместо с остальной историей или удаляется, или идёт в бэкап.

>А если юзер повторно с номера решил зарегатся то что?


Решается теми-самыми упомянутыми тобой бизнес-требованиями.

>А с кем он согласует подобное поведение приложения?


С каким-нибудь из C-левелов, который за бизнес отвечает.
61 3406887
Хочу вкатиться в аналитику данных (я вообще по адресу?)
Стоит ли покупать Яндекс.практикум и ботать на работе?
На работке как правило есть 3-4ч для ебланства за компом, вот хочу купить курс и пройти его за +- год и перекатиться на что то более перспективное.
Вопрос - хватит ли пары часов в день и не перегорю ли я?

Алсо, если есть какие то ресурсы типа читаешь тему и тут же делаешь какой то урок (по Питону, Джаве, неважно, по всему) - то кидайте, буду благодарен.
Видосики смотреть в опенспейсе сами понимаете палевно.
62 3406898
>>406887
Нет, двух часов в день не хватит, люди этот курс как работу проходят целыми днями в течение месяца.
63 3406899
>>406898
там курс 7 и 10мес расширенный, пишут что 10ч в неделю в среднем
64 3406950
Знаю, что вопрос уже платиновый, но в шапке не нашёл. Хочу из админства перекатиться куда-нибудь в Big Data. Прошел курсы PostgreSQL, учу с переменным успехом SQL и параллельно начинаю осваивать Hadoop, Spark, Kafka и Airflow. Этого достаточно?
65 3406953
>>406899
Брешут. Все, с кем я говорил и кто проходил этот курс, говорят, что если ты идёшь в него с нуля, то готовься рвать жопу по 10 часов в день, иначе завалишь дедлайны. Плюс к этому у них постоянно что-то отваливается, и задачи из-за этого не принимаются. Менторы могут стабильно игнорить.
66 3406955
>>406950
Да, достаточно. Некоторые кликхаус ещё любят спрашивать, но упор в него делать не надо, на работе разберёшься, если попадётся.
67 3406997
>>406950

>учу с переменным успехом SQL и параллельно начинаю осваивать Hadoop, Spark, Kafka и Airflow. Этого достаточно?


Типичный пример resume driven development. Чувак просто вычитал в интернете какие-то баззворды, зачем они нужны - сам толком не знает. Он даже не понял, что сказал. Хадуп и спарк. Там где стоит хадуп - там не будет спарка. И наоборот. Сейчас все эти громоздкие кластеры уходят в небытие. Нет смысла в 2025-м году ебаться с хадуп кластерами. Проще дешево и сердито накатить duckdb. Хотя опять же, зависит от количества данных. Если у него 100 терабайт данных, то конечно, спарк без вариантов. Тут какое-то квадратно-гнездовое мышление, на любой случай лепить спарк и хадуп.
68 3407004
>>406950
Опять же... как ответить на такой вопрос, если допустим более новый подход (но меньше у всех на слуху) - chDB/duckDB/polars или более классический подход, который типа "правильный" и "требуют все работодатели". Spark/kafka/dbt/superset и т.д.

Выбор между более разрекламированными "общепринятой технологиями" так сказать и "cutting edge".
69 3407029
>>406997

>Там где стоит хадуп - там не будет спарка. И наоборот


Ну хуйню же несёшь...
# OP 70 3407051
>>406950

> Hadoop, Spark, Kafka и Airflow


Мне лень искать, но если кто-нибудь доставит ссылок и книг по теме, могу добавить в шапку после переката.

мимо опхуй
image.png177 Кб, 1442x532
71 3407119
>>382705 (OP)
Какой же клеппман пидорас и так всю книгу:
1. Это говно
2. Это говно
3. Это говно

А КАК НАДО ТО БЛЯДЬ ПИДОР. И ТАК ПРО КАЖДУЮ ТЕХНОЛОГИЮ В КНИГИ - НЕ ГОВОРИТ КАК НАДО
72 3407120
>>407119
В "реальных банках" апдейтом остатков на счетах не ограничатся и, как минимум, учитывают в той же транзакции ещё и статус документа-основания, если он уже проведён, то и делать ничего не надо.
73 3407121
>>407119
Зумеры совсем ебанулись. Пикрелейтед что такое? Просто пиздец, человек реально заморочился и по пятьдесят сносок на главу сделал. Почти кажое свое слово и утверждение обосновал, откуда это, кто это придумал, ссылки дал. Не учел только что его книгу будут читать не специалисты, как справочную литературу, а какие-то долбобеы вместо фентези в метро.
image.png141 Кб, 1388x835
74 3407122
>>407120
Ну вот дальше пишет, законспектировал, ок. Но заебали уже эти качели

>>407121
Пошел нахуй блоховоз
75 3407124
>>407120
В реальных банках пользуются такой разработкой древних как "двойная запись". Никто не "меняет" баланс. Никто ничего не вычитает и не прибавляет. Добавляется строчка в таблицу, с идемпотентным ключем, в котрой id счета дебета, id счета кредита и сумма. А когда пользователь смотрит свой "баланс" ему показывают "сальдо" - разницу между суммой по кредиту его счета и дебету.

Все эти данные хранятся в одной таблице, получаются быстро и легко, никаких конфликтов при записи не возникает потому что операции атомарные. Никаких отрицательных чисел в системе нет. А чтобы не выбирать все записи в таблице по счету есть операция "закрытие периода", когда создается запись с "сальдо" на закрываемый период и актуальный "баланс" считается по записям после закрывающей.
TameRequiredJaeger.mp4292 Кб, mp4,
576x304, 0:08
76 3407126
>>407122
Нет это ты иди нахуй. А лучше в школу, где тебя научат пользоваться сносками в книгах. Автор тебе буквально дал ссылку на научную работу из которой он взял свою фразу.
77 3407129
>>407126
Нахуй иди, я мать твою ебал.

Ору с пидора - его нахуй посылают, но омежке требуется внимание, т.к. друзей нет и не с кем поговорить. Приятно когда отвечают в ответ, кек
78 3407131
>>407129

>пук

79 3407132
>>407131

>хочу внимание к себе

80 3407135
>>406997
Я написал те технологии, которые на слуху. Естественно я планирую глубже разобраться, что и для чего используется. Зачем у тебя пукан подгорает? А эти кластеры точно уходят? Не слышал, чтобы Сбер или ВТБ использовали что-то отличное от этого.
81 3407136
>>407135
Он не разбирается, игнорируй его. Кроме хадупосраки в РФ используют яндексовский ytsaurus в Яндексе и ВК. Тинёк и ВБ пилят свои дата лейки, можешь в эту сторону посмотреть ещё.
82 3407139
>>407119
>>407121

> клеппман


Шо за книга?
83 3407140
>>407135
Ну ты просто слышишь, а я реально использую и плачу из своего кармана. Тебе похуй, не ты же платишь, а работодатель. Поэтому у нас цели разные, я стараюсь экономить, выбираю эффективные решения. А ты выбираешь по принципу "требуется в объявлении/не требуется". Один хуй, у Сбера кошелёк бездонный, они хоть миллиард рублей оплатят.

Хадуп нахуй не нужен. Почему? Потому что это джава, мап редюс - это тот же апач спарк на минималках. Hdfs? Есть s3, minio. Apache hive? Тоже устарело. Вся экосистема хадупа - говно.

Естественно, можно взять аренадата за охулион рублей в месяц и использовать для простых пайплайнов. Опять таки, тебе похуй потому что обычный исполнитель.
84 3407141
>>407139
В оп посте кабан
85 3407202
>>407124

> Никто не "меняет" баланс.


Очень даже меняют, никто не будет ждать закрытия операционного дня, чтобы каждый раз для каждого счёта вычислять доступные остатки по сотням тысяч проводок/резервов ради проверки, что счёт не уйдёт минус после очередной проводки.
При закрытии дня, да, один раз проверяют соответствие текущих остатков проводкам и записывают в главную книгу.
86 3407300
>>407202
Ну так это никакой не "баланс", а кеш, который в редисе вообще спокойно лежит и периодически в базой синхронизируется. Речь идет о том как финансы в базе хранятся и учитываются. Проводками и хранятся. То что там сверху нагорожено для скорости и удобства - вообще отдельная тема. Так-то все эти записи еще и в памяти приложения загружены в виде объектов. И в кафке в виде событий. И хуй знает где еще. Но источник истины в этой системе - таблица с проводками.
87 3409236
Я правильно понимаю, что разница между INNER JOIN и условным LEFT JOIN только в дополнительных строках с NULL для записей отсутствующих в правой таблице и их порядке?
image.png71 Кб, 736x542
88 3409240
Можно ли решить эту задачу без GROUP BY?
89 3409246
>>409240
Всё, что можно сделать через GROUP BY, также можно сделать через оконные функции ( F() OVER () ) и DISTINCT.
90 3409337
>>409240
Очевидный sub select
91 3409340
92 3409358
Недавно получил работу в крупном банке, должность data analyst junior. Всё, что я реально делаю это пишу sql запрос, кидаю его в power query в экселе и красиво оформляю репорт, если нужны графики. Иногда делаю какой-то шаблон для динамических запросов с помощью VBA. Можете посоветовать как можно развиваться дальше? Учить пайтон, tableau и делать свои "пет-проекты"? В банке пайтон не хотят устанавливать, мол экселя для визуализации хватит. Даже power bi нет и спроса на него тоже нет. Хотелось бы куда-то расти, но я немного потерян.
93 3409360
>>409358
так в банках одни скуфидоны.
94 3409365
>>409360
Какой вывод мне сделать? Это хорошо или плохо?
facepalm-meme-uss-arizona-scale-meme-thumbnail.jpg15 Кб, 300x300
95 3409378
>>409358

>Хотелось бы куда-то расти, но я немного потерян.


Долбоёб, уж определись или тебе развитие или джуниор. Это две разные вещи. Вы сначала приходите говорите "дайте мне легкую работу" или "дайте мне стажировку", вам начинают советовать тестировщиков, junior должности и т.д. Вы устраиваетесь, и тут вдруг оказывается что там 0 развития, 0 опыта, по сути монотонная, скучная, лёгкая работа, которая никак тебя не продвигает как специалиста. Если ты хотел развития, не надо было устраиваться на должность junior-аналитика, надо было брать сложные таски (без приставки "junior").

Это примерно как работать 5 лет говночистом и ожидать, что эти 5 лет засчитают за опыт гендиректором, такая же логика. В смысле, ты получил ровно то что хотел - если ты хотел лёгкий ВКАТ то ты именно ВКАТ и получил. Про развитие никто не говорил.
96 3409393
>>409378
Да, в общем-то я хотел легкий вкат. Ничего страшного, стаж получу в банке, а вечерами могу и посаморазвиваться. Вопрос был скорее в том, что поизучать, на что потратить свое маленькое свободное время, чтобы потом устроится получше. Уйти всегда можно.
97 3409398
>>409393
Представь себе, что я допустим даю тебе ЛЁГКУЮ РАБОТУ. Без разницы какую. Скажем, она загружает твой мозг на 10%. И к чему это приведёт через 5 лет? Ты просто отупеешь. Если тебя ни о чём не просят, то они и не оценят твою инициативу. Ты начинаешь всякие tableau в свободное время устанавливать, это будет тоже самое, что кормить свинью моллекулярной кухней. Банку это нахуй не обосралось, они ещё за инициативу отругают лол. Лучше бы нашёл нормальную компанию, которой этот самый tableau реально позарез нужен, а не просто ебучие пет-проекты делать. Какая тебе разница на что время всирать, а так ты хотя бы за это деньги получишь. А так ты просто всрёшь время и нихуя никаких денег не получишь.

Смысл вот устраиваться на такую работу, где требуют меньше, чтобы вечерами пилить дополнительные пет-проекты. А нельзя было сразу подобрать такую работу, где это всё в требованиях содержалось? То есть чтобы там был и tableau, и python, и всё прочее.
98 3409404
>>409393
иди раст разботчиком за 10 тыщ евро. нахуй тебе эти нищеброды и sql.
99 3409415
>>409398
Так может эти tableau чем-то лучше, чем тот же эксель, правильно? А значит и я смогу потом начальника убедить, что нам это надо как минимум потестить, да сынициирую так сказать установку да постараюсь имплементировать в рабочий процесс.

Я так-то не спорю, я вижу в твоих словах логику. Ретроспективно я многое бы поменял, но надо играть с тем, что есть. Полгода назад мне очень легко достался этот офер и из-за своей лени я просто согласился на него.
100 3409422
>>409404
Кто ж тебя возьмет. За такие деньги там уже 20 миллионов индусов откликнулись на вакансию.
101 3409430
>>409415
Это всё имеет смысл делать, для тех кто в разбирается в теме и может оценить твой труд. Внедрение супер-пупер новшеств для несведущих людей чревато. Это всё равно что быдло накормить молекулярным обедом, принести лимонное облако и икру из дыни на ветчине прошутто. А он скажет - а нахуй ты мне это принёс, я хотел шашлыков поесть с балтикой девяткой.

Конечно сейчас ты сидишь на кукане, ты подписал договора, никуда сейчас не спрыгнешь. Надо было думать об этом ещё до момента подписания. Надо устраиваться туда, где сильная команда, много требуют. Можно учиться от других, если ты с первоклассными чуваками работаешь.

Tableau - как по мне, хуита из хуит. Они ушли из России, плюс, стоят космически дорого ~$1200/год на одного пользователя. По сути, это тот же самый R, только визуальный. С кнопочками-хуёпочками, вместо кода ты лазишь по менюшам и выбираешь готовые функции, вот и всё.
102 3409436
>>409430
Мне понравилась твоя фраза про молекулярку и свинью, я даже в голос проиграл. Надо запомнить.

Но я не согласен по поводу новшеств. Если инициатива принесет пользу и эту пользу можно показать на пальцах, можно выторговать больше ответственности. Ответственность потом обменять на деньги. Только так я получал повышение в зп раньше.

Легко говорить - надо было что-то делать. В сильной команде может меня никто и не ждал. Опыт работы у меня все-таки в другой отрасли. Кстати, я не в РФ, я в Чехии, но может и вернусь, пока не знаю.
103 3409448
>>409436
Мы сейчас просто гипотетические сценарии обсуждаем. Переубеждать нет смысла. Считаешь что нужно - ну окей. Практика покажет - нужно оно было или нет.

Ну может с одной стороны и неплохо. Может я просто нагнетаю. С одной стороны, копеечка капает, жить можно. Европку посмотришь.

Лично я бы вкачивал статистику, SQL и R, самые ценные скиллы для аналитика. Но это лично моё мнение.
104 3409460
>>409448
Я думал меня тут сразу только нахуй пошлют, а ты мне даже релевантную информацию выдал. Благодарю.
105 3409464
>>409448
Вклинюсь в ваш диалог. Я пиздец люблю R и много на нем всякого разного делал. Но сейчас объективно на рынке труда R никому не нужен. Для аналитики, статистики, всякого разного дата саенс всем нужен питон. Так что советовать кому-то тратить время на изучение R, которое можно было бы потратить на тот же питон или SQL - это просто нечестно.
106 3409475
>>409460

>Я думал меня тут сразу только нахуй пошлют


ДУМАТЬ это одно, а проверять на практике другое. Я думаю что меня отошьёт вон та красивая девушка, но проверять я конечно не буду. Лучше сразу к жирухе подойду, так у меня больше шансов.

>>409464

>Я пиздец люблю R и много на нем всякого разного делал


Молодец. Я тоже.

>объективно на рынке труда R никому не нужен


В точку.

>советовать кому-то тратить время на изучение R


Нет, подожди, ты сейчас путаешь кислое с пресным. Твоя мысль "не востребован - значит изучать не надо". Так можно сказать про что угодно. Matlab не востребован, изучать не надо. Julia не востребована, изучать не надо. Если на всё смотреть через призму найдёшь работу/не найдёшь, то нахуй нам все остальные языки. Давай все станет питонистами, нахуя нам раст, нахуя нам сишарп. Оставим только один питон и все на нём будем кодить. Чисто для себя можно изучить. Что значит "тратить время"? У языка есть полезное применение! Да, он может быть с недостатками или не такой популярный как питон. Но лишней строчка в резюме не будет. Язык позволяет красиво графики рисовать например, работать с временными рядами. Тем более, мы говорим про рынок евросоюза, а не российский. Если он и правда в Чехии, то там дохуя работы на R.
107 3409656
>>409398
Так а какой серьезной компании нужен чел без реального стажа, пусть и на говноработе? Все серьезные вакансии требуют опыт работы. Просто все твои аргументы в разговоре с >>409358 аноном касаются и меня. Я устраиваюсь аналитиком на пол ставки (ибо студентота) в парашу где не факт что sqlем вообще кто-то пользуется, и с одной стороны я долбоеб, что выбрал место с минимальным потенциалом развития, но с другой - где как не там я пойму, подходит ли мне эта сфера в принципе или нет. После года работы в любом случае планирую съебаться в более солидное место, где в серьезным ебалом заявлю об 1 годе опыта. Не знаю, анон, ты конечно прав, но легко сказать "надо было делать вот так-то и так-то, сразу залетай на мидла/сеньора", но в реальности все сложнее.
108 3409679
>>409475
Не соглашусь. Я живу в ЕС, тут работы для R очень мало, а там, где R упоминается, обычно написано R/Python. Тем более, при чем тут матлаб и джулия? Никто не спорит, что лучше знать больше, чем меньше и лучше знать доп. язык, чем не знать, но он хочет вкатиться в аналитику как можно скорее и проще. А для этого логично бросить силы и время сначала на то, что более востребованно, а уже потом, работая, расширять кругозор и узучать новые языки.
109 3409770
>>409656
Ты продаёшь не опыт, ты продаёшь заказчику аналитику своего бизнеса. Также как и строитель покупает не экскаватор, он покупает вырытую яму. Люди покупают не дрель, они покупают дырку в стене. Все эти: cертификаты, годы опыта, портфолио и т.д. Это лишь дополнительные свистелки и перделки для повышения цены, а не базовое условие для устройства на работу. Серьёзные компании? Блять, это какие? Типа ibm, майкрософта и так далее? А ничё что эти компании десятилетиями нанимают грязных вонючих индусов, работающих на них за копейки? Если ты считаешь себя хуже ёбанного индуса - ну окей.

Вообще, такого концепта как "быть достойным чтобы претендовать на работу" не существует в природе. Ну типа, ты либо делаешь работу и тебе платят деньги, либо обсираешься и тебя увольняют. Всё.

Также как и концепта "уволиться через год, потому что накопил достаточно опыта". Почему люди обычно увольняются? Потому что: 1) хотят больше денег 2) заебало на старом месте, не ценят 3) наскучило, хочется чего-то нового. А бля просто уволиться ради самого увольнения, это какая-то ебанутая причина если честно.
110 3410043
появился вариант залететь на Data Engineer, у самого душа больше к бекенду лежит, насколько тяжело будет потом свичнуться? DE - это valuable experience?
17396337622140.jpg180 Кб, 1062x1083
111 3410052
>>410043
Ох, братик, я 8 лет в базах данных весьма плотненько. Был и Report Developer и DWH/ETL Developer так и сейчас в роли Data Engineer. Очень настопиздело это. Деньги тут можно зарабатывать, но в целом Data Engineer это человек-оркестр. От компании в компании ты будешь немного:
- DBA
- QA
- BI
- Python/Scala/Java Developer
- DevOps
- SQL
- системным аналитиком
- Support Engineer

Не жди что ты научишься хорошо программировать, ты будешь охуенно писать SQL-запросы, но не более. В разных компаниях по-разному, но ты будешь знать всё и ничего одновременно. Сам хочу уволиться и в Гошечку перекатиться, работаю в банке
112 3410062
>>410052

>Гошечку перекатиться


охлол, я так же
только я сразу в гошечку не могу (нет опыта)
грустно на рынке сейчас для джунов, пиздец как грустно
113 3410065
>>410062
В Джуна сложно, да. Я хочу в мидла. Есть опыт написания сервисов на петухоне. И в целом опыт в БД
114 3410070
>>410065
вот я и думаю что делать, в запасе есть ~год на нахлебничество поднятие уровня знаний в бекенде
вот и думаю, стоит ли учиться пока я могу и всё же пытаться в golang, вдруг скоро всё закончится и к нам вернутся иностранные компании, в целом мировая экономика поднимется, и наконец то в айти будут вливать деньги как в ковидные времена и будет много мест для джунов
115 3410075
>>410052
Мне казалось, что DE это что-то ближе к Hadoop, Kafka, ETL и вот это вот всё, а у тебя какое-то говно выходит будто
116 3410076
>>410075
Kafka забыл. Hadoop тоже будет.
117 3410131
>>410070
Мировая экономика нихуя не на подъёме, она нависает над обрывом кризиса и следующее десятилетие будет очень интересным.

Рекомендую тебе не ебланить и хвататься за всех синичек вокруг тебя, вместо того, чтобы смотреть на мифического журавля ласкового зарубежного хайра.
118 3410134
>>410131
сейчас то понятно что всё плохо
господи найти бы работу в golang я был бы самым счастливым человеком в мире
119 3410149
>>410134
Сейчас = все плохо будет как минимум десять лет и я не вижу в тебе понимания/осознания этого прогноза.
120 3410150
>>410052
Заебало читать это нытьё про "человека-оркестра". Зуммеры постоянно жалуются ой блять "я хотел один бекенд а там ещё верстать..." или "я хотел бекенд, а меня ещё заставили разворачивать инфраструктуру, это нормально?". Они видимо ожидают микротаски или узкую специализацию. Где чуть шаг вправо, шаг влево - тут мои полномочия всё, как в том меме. Они ещё потом начинают скулить, типа лол, я же типа 5 в 1, должен получать как за пятерых человек мол! Хуле у меня такая маленькая зарплата, я хочу 500 тысяч в месяц. И ещё наймите 10 дополнительных специалистов - одного девопса, одного тестировщика, одного дба, и т.д. Ещё с таким обиженным еблищем обычно говорят, типа ой компания не может ещё людей нанять. Ненавижу этих людей сука. Просто по одной фразе "человек-оркестр" можно задектировать что скажет дальше.
121 3410163
>>410150
Ладненько с чатом жпт разберемся во всем этом оркестре
122 3410170
>>410163
Здорова, коллеги! Ну чё, погоняем двхшечку? Что у нас здесь сегодня, смотрим?
Старина Дейта, старина Уолт, посмотрим. Я такую кстати ни разу ни проектировал, ща посмотрим.
Как она обновляется я не знаю. Ща соберем эту глыбу. Хыыых еле-еле сджойнил! Хе-хе-хе!!
Ща попробуем. Берите вместе со мной ребятки выгрузку с витринки. Лааадно пойдёт!))
17392590553740.jpg8 Кб, 151x168
123 3410185
>>410150
Одно дело когда человек-оркестр в компании ООО "Кабан" где 1.5 разработчика. Тут понятно что ты - незаменимый. Жнец, гонец и на дуде игрец.

Другое дело когда у вас есть целый департамент архитектуры, отдельно девопсы, отдельно DBA и дохуялион АНАЛитиков, но всё вышеперечисленные делаешь почему то ты. И поэтому перекос, одни отделы сидят дунасят, а других ебут потогонкой.
124 3410197
>>409393
Изучай существующую структуру БД и разбирайся, почему она устроена именно так. Задавай вопросы коллегам (на которые тебе никто не ответит), думай где что можно было бы улучшить.
125 3410599
Проходил сегодня софт-скиллс собеседование на должность джуниор разработчика бд. Не знаю идти ли на следующий этап. И вроде офис норм, и ребята общительные, но это мне получается придётся каждый день, изо дня в день по 8 часов писать запросы к одной и той же базе данных? Как вы с ума не сходите на такой монотонной работе? И какой здесь возможен рост с точки зрения программиста
126 3410605
>>410599

> софт-скиллс собеседование


ебать..
127 3410680
>>410599
Тут как раз и возможен рост, особенно если что-то высоконагруженное с этой базой работает. Написать очередной круд на php и js много ума не надо, это и чатгпт сделает, а вот понимать, например, уровни блокировок, чтобы не напарываться на дедлоки на ровном месте, понимать зачем и когда нужны всякие индексы, квери планы, партишены, (де)нормализация — вот это самое сложное и ценное, это знания, которые ты дома/на говнокурсах не получишь никогда. И это то, что будет отличать тебя от таксистов со скуфбокса.
128 3411101
Есть ли возможность сделать одну транзакцию на несколько подключений в postgresql? У меня есть несколько микросервисов, которые обращаются к одной бд, но каждый из них работает со своими таблицами. Им нужно обновлять несколько сущностей в рамках одной транзакции. Можно ли открыть такую именованную транзакцию в одном подключении, а закрыть в другом? Нашел PREPARE TRANSACTION и двухфазные коммиты, но почему-то сделать это у меня не получилось. Стоит ли дальше разбираться, это ведь, то, что нужно?
129 3411133
>>411101

>Стоит ли дальше разбираться, это ведь, то, что нужно?


Это оно. Стоит ли или нет, решать тебе.
130 3411155
>>411101
Это называется распределенные транзакции. Сделать можно, но некоторые считают, что в микросервисах их не стоит использовать.
131 3411159
>>411101
Нельзя. Распределенные транзакции делаются через сагу и это большая головная боль для разработчиков. Самое простое решение - объединить все микросервисы в один, чтобы он все делал под одной транзакцией в одном подключении.
132 3411165
>>411159

> сагу


2PC > saga

> объединить все микросервисы в один


Лол
133 3411166
>>411165
Где ты будешь прописывать логику откатов и ретраев в этом твоем двухфазном коммите?
134 3411175
>>411166

> прописывать логику откатов


В самой СУБД.

> и ретраев


Нинужна.
135 3411405
Как вы этот ебучий SQL освоили то? Вроде изначально все понятно было, но как дошел до подзапросов (особенно с Not Exist и Not IN) так просто пиздец каша в голове образовалась. Хули сложно так? А ещё каждый раз хочется объявить переменную и сделать все нормальным языком..
136 3411409
>>411405
Документация + sql-ex для понимания того, как на скуле решать задачи. Больше ничего не нужно.
137 3411429
>>411155
У моего проекта архитектура говна. Микросервисы, которые нафиг не нужны. Я ничего не решаю, но хочется предложить что-то получше саги, которая для нашего случая оверкилл, потому что таких транзакция немного
138 3411469
>>411429
Как сага может быть оверкилом? Одна транзакция, одна сага, одна таблица, один вождь файл.
Ты пытаешься добавить в проект idle in transaction. Так делать не надо.
139 3411476
>>411469
Выглядит это сложно, чел на совещании рисовал схему, там нужно еще какие-то сущности вводить, а проект и так довольно запутанный. Хочется сделать именованную транзакцию, как будто это выглядит гораздо проще
140 3411633
>>411101
>>411165
>>411476
Это вы все тут сеньоры-помидоры? Я первый раз о таком слышу
141 3411642
>>411101

>У меня есть несколько микросервисов


>которые обращаются к одной бд


Поздравляю, у тебя РАСПРЕДЕЛЁННЫЙ МОНОЛИТ.
142 3413107
>>411642
Да, и это бессмысленный кал
143 3413446
>>413107
скорее даже вредный
image167 Кб, 977x672
144 3413494
Анончики, хочу запретить создавать более 10 активных заказов на 1 пользователя (PostgreSQL). И тут вопрос:

Стоит ли ограничиться простым вызовом SQL COUNT(), перед созданием очередного заказа? Гипотетически, если много раз подряд вызвать запрос на создание заказа, то мы проскочим лимит, ведь нет никаких блокировок. Но с другой стороны, сильно за лимит уйти не получится в любом случае. Поэтому не знаю, стоит ли добавлять какие-нибудь блокировки или как обычно решают такие задачи?
145 3413529
>>413494
Включи для этой транзакции уровень изоляции SERIALIZABLE и тогда точно никто не проскочит.
image208 Кб, 468x468
146 3413597
>>413529
Звучит как нечто, что может поломать мне весь веб-сервис.
147 3413612
>>413597
Да и хуй с ним, ну поламается и туда ему и дорога.
553403693573713130.jpg80 Кб, 700x393
148 3413670
>>413494
Буквально то что тебе нужно. https://stackoverflow.com/a/1743742
Вообще так делать не стоит, зато обеспечишь дба работой на годы вперед. Инвестируй в будущее.Твои дба братишки на новом месте работы отплатят тебе тем же.
photo2025-01-3020-05-17.jpg108 Кб, 1136x1136
149 3413948
Какая графовая БД лучшая?
150 3413992
>>413494
Advisory locks чекни, чтобы блокировать записи конкретного пользователя а не все
image.png26 Кб, 921x351
151 3414015
152 3414145
>>414015
Нейро ответы не писать!
Поисковые ответы не писать!
Писать только знающим людям!
153 3414478
>>382705 (OP)
Как разобраться с уровнями изоляции транзакций и понять когда и какую выбирать? Как не обосраться на собеседовании?
154 3414550
>>414478
READ UNCOMMITED - никогда. Дебилы не знают про кафку.
READ COMMITED - всегда.
REPEATABLE READ - никогда. Каловое легаси с бизнес-логикой в хранимках, нет пути.
SERIALIZABLE - каво?
155 3414700
>>414550
Ну и как понять, что каждый уровень делает? Не просто же их так придумали. На собесе каждый раз спрашивают перечислить все уровни и привести примеры
156 3414701
>>414700
READ UNCOMMITED - изоляции нет, изменения доступны всем сразу, не дожидаясь комита. Транзакций по сути нет, если очень хочется пукнуть данными и забыть - есть кафка.
READ COMMITED - изменения становятся видны всем после комита своей транзакции. Это дефолтный режим.
REPEATABLE READ - перед началом транзакции делается как бы слепок бд и ты работаешь с ним. Если в режиме READ COMMITED изменения видны в твоей транзакции сразу после комита своей транзакции, то в режиме REPEATABLE READ ты работаешь со старой версией базы, какой она была на момент начала твоей транзакции. Эта хуйня актуальна, если ты в бд пишешь дохуя бизнес логики и в циклах что-то там считаешь. Сейчас так никто не пишет.
SERIALIZABLE - транзакции выстраиваются в очередь и следующая не запустится, пока не завершится текущая. Пизда производительности, никто это не использует.
157 3414716
>>414701
>>414550
>>414478
Угу, а потом тебя спрашивают - мы тут работаем с Postgres, там MVCC, расскажити.
158 3414747
>>414700
Вот книжка, в ней где-то в начале разбирается изоляция: https://postgrespro.ru/education/books/internals
159 3415062
>>414478
Это на Junior теперь такое спрашивают?
160 3415077
>>413529
Лол, причем здесь вообще уровень изоляции?

>>414701

> SERIALIZABLE - транзакции выстраиваются в очередь и следующая не запустится, пока не завершится текущая. Пизда производительности, никто это не использует.


Чиво блять? Один пользователь может открыть несколько параллельных сессий и ебашить запросы. И просто результаты этих запросов не будут видны пока они не закомичены. Если два одновременно запроса заапдейтят одну и ту же строчку, то просто будет блокировка. Никакие запросы в очередь не выстраиваются.
161 3415080
>>415077
P.S. я хуйню спорол. Все верно пишешь.
162 3415084
>>415062
Что значит теперь? Это и 15 лет назад спрашивали.
163 3415111
Какие вопросы задают на тех. собеседовании джуна? Вроде посмотрел те, что в интернете, но там каком-то совсем дошкольный уровне, как будто нейросеть писала
164 3415120
>>415111
Такие и задают. От джуна ничего особого не ждут, кроме 3 лет опыта.
165 3415352
Как переехать с постгри на гринплам? И стоит ли вообще? Какие варианты шардирования еще есть, если постгря уже не влезает в рамки ресурсов одного сервака?
166 3415355
>>415352
Не стоит.
167 3415367
>>415355
И что же тогда делать?
168 3415378
>>415367
Вертикально масштабировать сервак.
169 3415400
>>415378
Уже максимально отмасштабировали.
170 3415403
>>415400
Нихуя себе, прям представляю суперкомпьютер с выделенной электростанцией, на котором одиноко крутится постгрес.
171 3415695
Какие сейчас зарплаты у джунов-бдшников?
172 3415703
>>415695
30-150к.
173 3420255
Устроился на работу в галеру, где ВСЕ сотрудники мужского пола ходят В КУРИЛКУ видимо КУРИТЬ. А я сыч, омежка и чмо, не знаю что делать если позовут с собой. Ходить и стоять афк со всеми или вежливо отказаться и продолжить работать? Дайте советы пж...
174 3420273
>>420255
Ходить конечно, это называется подышать свежим воздухом. У нас пара коллег курит, иногда выхожу с ними пробздеться, на солнышке постоять.
175 3420274
>>420273
Разве я не буду дышать дымом большую часть времени? О чём с ними говорить, если мы не знакомы вообще
176 3420277
>>420274

> Разве я не буду дышать дымом большую часть времени?


Нет, отойди подветренную сторону, там не пахнет.

>О чём с ними говорить, если мы не знакомы вообще


Ошибка сыча, о чем хочешь говори. Спроси кто сколько тут работает, чем занимаются в компании. Да хоть про сикуэль говори, главное не сиди в стороне.
177 3420279
>>420277
Понял, спасибо. Но мне кажется на практике мозг просто сделает выбор в пользу "стоять и смотреть в пол"
178 3420281
>>420279
Это же базовые навыки социализации.
179 3424091
Чики, аноны. Пришёл с платиновым вопросом. Работаю сейчас хуй пойми кем, последний год целиком управляю продуктом в стартапе уже втором и там же исполнитель всего контента. Видимо я продакт. В каком-то смысле работаю с метриками, но через пизду и конечно без стройной аналитики. Рынок в моей сфере нестабильный и работу найти проблематично, к тому же зарплаты упали нахуй за 2 последних года, мой опыт в 4 года просто не имеет смысла.
Я этим фактом очень опечален, учитывая, что мне осенью будет уже 32. Всю сознательную жизнь после института мечтал о том, чтобы быть ценным спецом и получать за это справедливые деньги, но смачно поел говна. До того, как кривая завела в текущее положение, пытался хаотично вкатываться в аналитику. Помню сюда заходил и спрашивал, достаточно ли 57 прорешанных задач на sql-ex для собесов на джуна, ну и на кой-то хуй прошёл машин лёнинг курс от Эндрю Энга ещё в 2018, когда ЛЛМки были в зачатке.

Собственно подумал о том, чтобы попробовать продолжить путь аналитика, так как сложилось впечатление - по крайней мере по вакансиям, - что чем больше знаешь и чем больше работал, тем больше получаешь. Проще говоря трек развития понятный. К аналитике душа лежит побольше, прогерство не хочу. Кажется логичным будет пойти в продуктовую аналитику как смежное моей текущей работе. В ином случае пытаться корячится и начинать какой-то мелкобизнес, но меня эта мысль вгоняет в тоску. Поделитесь мнением, есть ли смысл вкатываться особенно учитывая риски связанные с ИИ, если они вообще касаются сферы аналитики или есть другие более эффективные пути, чтобы не остаться к 40 годам с голой жопой? Пардон, что насрал биопроблемами тут, обратиться особо не к кому.
180 3424155
>>424091
От продуктового анала тоже часто требуется кодить, не только в БД ходить. Плюс А/Б тесты всякие и прочая статистика.
Другой вариант - системный анал, у них сейчас легко 300к+ получать, но не знаю как долго это продлится. Я считаю, что со временем пойдёт на спад, так как проекты, для которых они нужны, будут завершены, и их будут нанимать меньше и меньше.
181 3424234
>>424155
По специфике я вроде плюс-минус в курсе, по крайней мере издалека продуктовый аналитик нравится больше, не знаю что нам на работе по факту. Тут скорее извечный вопрос - не поздно ли в 31 заниматься перекатами, и что происходит на самих местах? Есть ли такое же перенасыщение, как с разработчиками, или из-за теор вера и статистики порог всё-таки выше? Может работодатель скорее отдаст предпочтение студенту с МФТИ, ну и вот это вот всё. Хочется прикинуть риски.
182 3424277
>>424234
Перекатываться не поздно, но ситуация такая же, как в остальном IT. Конкретно в аналитику перекатываются куча нормисов, которым тоже около 30-40, и мыслят они примерно так же "программирование это сложно и для задротов, а вот аналитика это легко, просто в эксельке графики делоть". Поэтому на вакансии сотни и тысячи откликов. И сами нанимающие редко понимают отличие между дата-аналитиком, продуктовым аналитиком, BI-аналитиком, системным аналитиком и бизнес аналитиком. Поэтому может так случиться, что название вакансии вообще не совпадает с задачами.
183 3424338
>>424234

>не поздно ли в 31 заниматься перекатами


>>424091

>есть другие более эффективные пути


>>424091

>учитывая риски связанные с ИИ


Какой-то тупой вопрос. А между чем и чем мы выбираем? Между лежанием на диване и работой? Если ты жопу не поднял, никто за тебя шевелиться не будет. Понимаешь, жизнь как работает. Никому нахуй не обосралось твоё развитие кроме тебя самого. Хорошо было бы допустим, чтобы ты занимался спортом, читал книги, изучал новую сферу деятельности. Но! Если ты не будешь это делать, никто за это не накажет, палкой по хребту не переебёт. Это будет иметь отложенный эффект, например. Если ты не занимаешься спортом, у тебя появится животик. Причинно-следственная связь.

Так же и в айти. Не перекатывайся. Вон, смотри, там есть Васян, он любит айти, он пойдёт и твою зарплату получит за тебя. А ты хуй соси и думай о рисках дальше.
184 3424339
>>424234
А почему ты не можешь задротить также как задротит приведенный в твоём примере студент МФТИ? Он какой-то волшебный что ли? Ты вроде также можешь зайти в интернет, найти материалы для обучения и дрочиться также как студент МФТИ.
185 3424343
>>424234
Риски есть везде и всегда. Допустим, можно идти по дороге и тебя собьёт камаз. Это риск? Да. А здесь, это называется "упущенная возможность". Ты нихуя не теряешь если тебя не наймут. У тебя как 100 рублей в кармане было, так и осталось. Ты ничего не потерял и ничего не приобрел. Рискует здесь только работодатель, он рискует ВСЕМ. Он рискует потерять деньги, время, нервы, получить хуёвую криво сделанную работу, нарваться на штраф от государства, обанкротиться и так далее. Ты рискуешь только временем. И всё.
186 3424350
>>424339

>почему ты не можешь задротить также как задротит приведенный в твоём примере студент МФТИ


Мозг разный.
187 3424411
>>424338
Полностью согласен, ты неиронично прав, но не хочу особо свои биопроблемы разводить. Если коротко, причина моей тряски - страх, что если наебусь с выбором развития третий раз, то к 40 годам шанса уже не будет.
>>424339
Я-то могу, вопрос в том, кого в реальности предпочитают работадатели: скуфидонов-вкатунов иди МФТИ студентов. У меня и образование так-то сравнительно хорошее техническое, просто ему 8 лет уже.
>>424343
В моём случае имеется ввиду риск оказаться никому не нужным чмом без денег к критическому возрасту.
188 3424489
Зачем нужны графовые базы данных, если фейсбук хранит триллион связей между своими пользователями в MySQL?
189 3424507
>>424489
Ну ты понимаешь, бог дал тебе SQL, который просто работает, причём это длится уже полвека, скучно же, хочется чего-то нового. Вот и изобретают всякие графовые, документные, колоночные, key-value и другие СУБД для разнообразия, чтобы можно было поиграться год-другой и вернуться обратно к SQL.
190 3424532
>>424411

>причина моей тряски - страх


Ну блин, к этому вопросу к психологу. Проблемы башки, навязчивые идеи, страхи, загоны и так далее - это он лечит.

>то к 40 годам шанса уже не будет


Чел ты ебанулся нахуй. За эти 8 лет можно горы свернуть, миллионы нажить, наебаться, некоторые по сотне книг в год читают. Естественно, если просто плыть по течению, то ты через 8 лет окажешься в примерно той же точке, что и сейчас. Для этого нужна воля и цель. Если жить без цели, то не будет никакого прогресса.
191 3424534
>>424507
А зачем оно вообще нужно? Вот я не представляю как БД может быть надежна, например, key=value. В моем понимании это может быть полезно только в in-memory базах данных по типу редиса, где надо некоторые промежуточные данные хранить
192 3424659
>>424534
Для промежуточных данных и нужны, чтобы в конце их сохранить в настоящую реляционную БД.
193 3424695
>>424532

>Естественно, если просто плыть по течению, то ты через 8 лет окажешься в примерно той же точке, что и сейчас.


В том и дело, что я крутился как сумасшедший, почти все 4 года работал на двух работах, либо перерабатывал/вкалывал для команды, но в итоге это не особо даёт веса в поиске работы. Причём никому не даёт, почти все знакомые жалуются на рынок. Зарплата конечно выше средней по стране 130к, но это в среднем потолок в отрасли. Поэтому у меня ПТСР. Ну ладно, я понял позицию анонов и в целом согласен. С другой стороны не вижу, чтобы кто-то мгновенно называл подводные камни - это хорошо. Спасибо, всем добра.
194 3424697
>>424695

>Зарплата конечно выше средней по стране 130к, но это в среднем потолок в отрасли.


Забыл добавить, что найти другую такую работу будет очень сложно, это самое хуёвое. То, что зп остановилась, даже не так обидно, как риск остаться с голой жопой, если кабан решит закончить свои дела. Ладно короче заканчиваю срать не по теме, ещё раз спасибо за дельные ответы.
195 3430309

>рискует только работодатель


Кабан, плиз, прекращай маняспектакль для вкатунов
196 3430572
>>424489
Графы позволяют легко отображать сложные связи между объектами. В графовых БД некоторые виды поиска осуществляются намного проще и БЫСТРЕЕ, чем в реляционках.
197 3430814
>>430572
Что же это за связи такие, которые нельзя сделать через джоин?
198 3430830
>>430814
В графовых базах связь не вычисляется, а хранится. Там это не джойн, а селект. Объяснять насколько это быстрее надо? Особенно в ситуации с рекурсией, когда надо найти точки, связанные с точками, связанные с точками... Поиск друзей друзей, поиск возможных маршрутов, поиск предков/наследников.
199 3430836
>>430830
То есть в реальных задачах это надо примерно никогда, иначе вместо постгреса везде был бы графгрес или что там есть.
200 3430871
>>430836
Чел. Я привел тебе пример вполне реальных задач. Если твои данные формируют граф, то можно с выгодой использовать графовую базу.

Если ты попробуешь, например, заджойнить цепочкой с десяток среднего размера таблиц, то нагенеришь в памяти мусора на кучу гигабайт. А если представить те же данные в виде графа, то такой запрос оптимизируется в сотни или даже в тысячи раз.

Проблема в том что, тебе этот граф нужно собирать своими руками и в графовую базу запихивать. И такая оптимизация под конкретный запрос становится мягко говоря не такой уж и выгодной.
201 3430981
>>430572
>>430830
>>430871
Ты, дружок, забыл добавить, что в большинстве графовых бд под капотом весьма реляционная таблица триплетов с накинутыми индексами, а язык чрезмерно декларативен. Отсюда отвратительный перформанс на запись при посредственном чтении, а попытки оптимизации запросов превращаются в цирковое выступление. Причем озвученные для реляционных бд болячки никуда не деваются.
202 3431035
>>430871

>Если ты попробуешь, например, заджойнить цепочкой с десяток среднего размера таблиц, то нагенеришь в памяти мусора на кучу гигабайт.


У нас бд майкрософт, в главном гриде штук 50 джоинов, беспощадный документооборот. У кастомера стоит весьма грустный сервер, никаких йоба кластеров. Все работает, страница отдается меньше чем за секунду на 200к записей в результатах и дохулионе страниц в пагинаторе. Просто надо нанимать разработчиков писать sql, а не мартышек с orm головного мозга.
203 3431048
>>430814
Конечно, любые связи можно сделать через джойны. Вот только запросы в итоге могут быть километровыми.
Вон в Sql Server'е есть встроенная фича SQL Graph - https://learn.microsoft.com/en-us/sql/relational-databases/graphs/sql-graph-overview - Узлы и грани в двух таблицах хранятся. И добавлен синтаксис, делающий запросы более лаконичными.
204 3431051
>>430981
А под капотом реляционных БД списки и деревья.

>а язык чрезмерно декларативен


Ну дык в этом и суть! Не колупаемся с императивными циклами, а лаконично получаем данные.

Не, я не агитирую за графки. Просто пытаюсь сам для себя прояснить некоторые моменты в беседе с умными людьми (да, мы тут такие!)
205 3431054
>>431051
С какими такими циклами ты колупаешься в SQL?
Происнить моменты легко: просто берешь и смотришь на требования к вакансиям. Это реальные люди используют реальные субд для реальных задач, а не теоретики сидят фантазируют. Постгрес есть, редис есть, кафка есть, графов нет.
206 3431171
>>431035

>Просто надо нанимать разработчиков писать sql


Охуенно деграднули. Лет десять назад дба как раз разработчиков хуй бы подпустил тяжелый запрос писать.
207 3431189
>>431054

>графов нет


Есть.
208 3431190
>>431171
ДБА написанием всех запросов не занимается. Для этого есть специальные скуль девелоперы.
209 3431256
>>431190

>Для этого есть специальные скуль девелоперы.


Хуйню не неси.
210 3431264
>>431256
Не проецируй. Ты не разбираешься, чем ДБА занимаются.
211 3431270
>>431190
Вообще да. В канувшым в лету недавно Киви Банке были роли DBD. Database Developer. Челы которые в Оракле срали функциями, процедурами, запросами. Например на некоторых проектах кредитные конвейеры были написаны на Оракле. Чисто в базе. В пакетах и функциях. Работало охуенно быстро.

Из минусов сложнее делать полноценный деплой и хранимые процедуры в гите хуита.

А DBA делают чтобы это все не падало.
212 3431278
>>431270

>DBD. Database Developer. Челы которые в Оракле срали функциями, процедурами, запросами


Вот я про них и говорю. ДБА такими вещами не занимается, максимум может посмотреть что-то совсем криво работающее по метрикам и помочь исправить. Но сам писать с нуля запросы для других он не будет, потому что он один, а условных бэкенд-макак на него будет пара десятков, и если для каждого писать все запросы, то у него не останется времени на свои основные обязанности.
213 3431653
>>431051

>А под капотом реляционных БД списки и деревья


А что сказать-то хотел? Я - (видимо нужен сурдоперевод), что перформанс у графовой бд будет дай бог не хуже, чем CTE у реляционок. Кроме, допускаю, полутора специфических запросов на не менее специфических данных - которых, кстати говоря, я так и не встретил.

>Не колупаемся с императивными циклами, а лаконично получаем данные


А не хотел ли ты запросик, в котором от позиции стейтмента (напомню, из-за избыточной декларативности у тебя все стейтменты внутри группы коммутативны) у тебя тайминг разнится на четыре ебаных порядка? А я с таким ебался год.
214 3431790
>>431653
А можно вместо пиздежа типа "траст ми бро" увидеть бенчмарк?
215 3431817
>>431790
Можно, делай.
216 3437096
>>402912

>Когда их применяют? Какие юзкейсы?


1. Заказываешь ты переговорку для митапа. Выбираешь в вебморде адрес, дату и время проведения, затем в списке свободных переговорок, подходящих под фильтр тыркаешь на названии/номере комнаты. На ЭТОМ САМОМ моменте хорошо бы залочить эту переговорку для заказа, чтобы она исчезла из списка свободных для заказа на это время. Т.к. потом у тебя открывается большая форма заказа переговорки. Пока заполняешь название встречи/повестку встречи/то/сё/хуё моё/вставляешь почтовые ящики десятка коллег, которых нужно пригласить, проходит минут 20
217 3437097
>>402912
2. То же самое, но для товара в и-нет магазине. Чтобы его успел купить именно ты, кто первым начал оформлять
218 3437102
>>437097
Пример с магазином сильно кукаретический и притянутый за уши. Обычно просто делается повторное чтение когда ты форму сабмитишь. Либо в критических местах создается запись с бронью. Локи и долгие транзакции не совместимы с вменяемым перфомансом.
219 3437108
>>402912
Неявные блокировки происходят, когда ты изменяешь данные: insert update delete вот это все.
Явные FOR UPDATE на практике никто не использует кроме совсем упоротых, кто не слышал про кафку. Блокировка делается на уровне бизнес логики: надо забронировать товар - делаешь колонку lock_date и туда пишешь крайнюю дату блокировки, в where проверяешь.
220 3437168
>>402912
Не слушай этого >>437108, он не понимает, о чём пишет.
221 3437325
>>437168
Не слушай этого >>437168, он не понимает, о чём пишет.
222 3437817
Сегодня я буду изучать все СУБД мира (PostgreSQL, MSSQL, Oracle/MySQL, Clickhouse). И никто меня не остановит.
223 3437820
>>437817
Надо изучать не в ширь, а в глубь. Изучи хорошо что то одно, а остальное интуитивно понятно будет.
224 3437825
>>437817
Разрабу там учить нехуй, а админ заебётся.
225 3437855
>>437825
В смысле нехуй? А как же построение масштабируемых, консистентных, надежных, отказоустойчивых систем?
226 3437862
>>437855

>масштабируемых


Шардирование к бд не относится.

>консистентных


Импосибл.

>надежных


С репликацией ебется дба.

>отказоустойчивых


С кубером ебется девопс.
227 3438480
>>437862
Ну нихуя себе. А разрабу что делать-то тогда? Таски из джиры пилить, и нет другого пути?
228 3438518
229 3438646
>>438480
А что ты разрабатываешь?
230 3438660
>>438646
Всякое говно, но с нуля и с очень маленькой командой. Нет роскоши делать готовые, оформленные тикеты из таск-трекера. Все приходится продумывать, делать и распределять самому. Хуевые процессы - возможно, но лучше так и иметь полную техническую свободу и ответственность, чем закрывать таски.
231 3438742
Как попасть в DBA? Одни middle/senior бля. Крутить опыт боюсь, я наверно всё поломаю на работе в первый же день...

В Ростов-на-Дону ехать что ль? На удалёнку эти челы ток middle берут, а джунов в офис. Хули я родился в этих пердях, тут ток 1С.
232 3438749
>>438742
С нуля сможешь БД поднять без гайдов? Ролевую модель сможешь навесить? Сделать горячие бекапы сможешь?
233 3438847
>>438749
Это база, братик. Я знаю это как таблицу умножения. Для джуна-то наверняка хватит, но для мидла ведь надо ещё докинуть девопс-практики. Я в них пока не бум-бум.
image.png642 Кб, 1570x766
234 3440141
1000 страниц за 1300р. На торрентах нет, полгода ждал - заказал. Раньше стоила 2500-3200

Огромная пиздец
235 3440178
>>440141
Пиздец ты зажрался.
image.png681 Кб, 787x567
236 3440186
>>440178
Что? Ну я никуда не спешу, всегда беру книги на будущее по скидонам. Чувствую себя волком с уоллстрит, лол.

Ну и когда Кабанов прочитал с монитора 640 страниц - охуел, один глаз хуево видеть стал. Потом так же ебанул 500 страниц другой, только бумажной - земля и небо по комфорту
Prc5hfZANLw.jpg18 Кб, 320x213
237 3440213
>>440186
Вау, вот это ты молодец! Аш целую книгу купил! Вот это ты зверь, монстр, ах тыж книголюб ты наш. Айкю наверно зашкаливает. Целых 640 страниц, вот это да! Я поражён до глубины души. Никто такие большие книги не читает как ты. Достоин получения медали как минимум.
238 3440227
>>440213
Дурачек, ты что порвался?
239 3440231
>>440227
Я просто злорадствую. Прям такой понт ОЙ ПАСАТРИТЕ Я КНИЖКУ КУПИЛ ЮХУУУ! Если я бы писал о каждой купленной книжке на двач, модератор запарился бы тереть мои посты.
240 3440234
>>440231
Тут вообще понтов нет, просто ты пидор залетный в айти, а в моем понимании каждый программер имеет свой шкаф с мукулатурой, поэтому и кинул скидон на книгу. Но а в твоей картине мире поридж читать киниги это СЛОЖНА ХНЫ О УЖАС КНИГА ОН ХЗВАТАЕТСЯ КНИГОЙ

Нахуй иди залетная мразь, это не твоя профессия
241 3440246
>>440234
Ох ты ж и клоун эдакий... Пыникс, на будующее — поменьше гонору, а то падать будет ой как бооольно, ты уж поверь дяде.
242 3440249
>>440246
Я когда ебу твою мать, ей так же про тебя говорю - пиздюка своего в кладовке держи когда я прихожу, а то бегает во круг, мешается
243 3440342
>>440141

>MySql


Это че?
image.png197 Кб, 731x402
244 3440354
>>440342
А ты в какой тред пришел, дурачек? Загугли че
245 3440429
>>440342
Это кринж для скуфов, челик, его уже не перспективно ракать в 25 году, не слушай этого >>440354 пердикса.
246 3440455
>>440429
Понял, спасибо! А что сейчас тогда?
247 3440529
>>440455
Написали ж тебе - Greenplum и PostgreSQL.
248 3440549
>>440455
Большая тройка: DB2, Oracle, Sql Server - никуда не делась.По-прежнему тянут гигантскую нагрузку. Но дорого, да...

На коне сейчас Постгря. Бо бесплатная. Но конченая, шо пиздец... Глаза б мои её не видели. :(

Пых + Мускуль как и прежде являются основой этих ваших ынторнетов. Так что можешь смело учить, на хлеб с чёрной икрой всегда заработаешь.

Опять же, самая массовая СУБД - Sqlite - как была, так и остаётся самой массовой.
249 3440560
>>440549

>Пых + Мускуль


Легаси кал.
Назови хоть одну причину, нахуй нужно это недоразумение, которое ни одного SQL стандарта не поддерживает в 2к25 году?
250 3440657
>>440455

>А что сейчас тогда?


Кликхауз.
251 3440770
>>440560

>ни одного SQL стандарта не поддерживает


И чо?
Redis, Mongo и десятки других нереляционных СУБД тоже Sql-стандарт не поддерживают, но на них можно сваять любой сайт/сервис.
252 3440827
>>440657
Эт че
253 3440829
>>440770
Сайт/сервис можно сваять хоть сохраняя данные в текстовый файл. Это не отменяет того факта, что мускуль - самый кривой ублюдок в SQL семействе.

От вопроса ты очень тупо вильнул сракой. То что на кривой залупе можно че-то там сделать - не повод это делать. Реальные причины использовать это убожество будут?
254 3440847
>>440829
С чего ты взял, лол?
256 3440866
>>440234
А зачем по мускулю книгу покупать? Ты что, работаешь на зарубежного работодателя? в РФ мускуля мало
257 3440872
>>440866
Бля, зачем вы кидаетесь на чела, который просто книгу по СУБД купил? Он изучит нормально одну СУБД, потом легче будет другие изучать.
258 3440901
>>440872
Во-первых, купил. Уже долбоеб.
Во-вторых, на русском, а не в оригинале. Дважды долбоеб.
В-третьих, книгу по мускулю. Трижды долбоеб.

Над такими долбоебами грех не поугарать. Нам - веселье, им и другим - наука.
259 3440906
>>440901
Такие как ты потом онкологией заболевают, но сначала горло отбывает - злость, токсичность это выделение гормонов концентрат котрых действует как яд. Такая смерть обычно называется кармой, а под капотом такие механизмы работают.
260 3440910
>>440872
Он потомок наверное тех кто книги сжигал на улицах и детей на штык ножи насаживал, у таких людей обычно все семейное древо такое из упырей и скота, людоедов, с зеками и алкоголиками
261 3440911
>>382705 (OP)
Сап анончики. Волнует такой вопрос, а насколько вам не хватает тулзы для проведения перформанс тестов БД? Или просто ограничиваетесь explain/analyze?
image.png46 Кб, 860x263
262 3440915
263 3440931
>>440911

>тулзы для проведения перформанс тестов БД


Представь себе небольшую внутреннюю ерп систему на сотню таблиц и сотню пользователей онлайн. Солнце погаснет раньше, чем ты переберешь все возможные комбинации запросов. Я поначалу вообще индексы не пишу, потом уже на живых данных добавляю где надо.
17331411410750.mp43,4 Мб, mp4,
512x512, 0:14
264 3440934
>>440915
Ну так пиздуй на пикабу и там рассказывай: как покакал, какой у тебя виндовс, покупки свои. А тут твои высеры нахуй не нужны. Пиши полезные вещи, и никто оскорблять не будет.
265 3440942
>>440931

>Солнце погаснет раньше, чем ты переберешь все возможные комбинации запросов.


Не, речь не об этом идет.
Я исходил из той ситуации когда к примеру есть конкретный функционал/http запрос который тормозит, к человечку пришли с этой проблемой и вот он собрал статистику по запросам из БД и примерно видно в чем может быть проблема, но чтобы подтвердить свою гипотезу ему нужно воспроизвести её чтобы ну вот точно уверенно говорить в чем проблема. Такие ситуации часто бывают или я её из пальцев высосал?
266 3440944
>>440942
Конечно он сам не будет сидеть и писать тестики, в этом случае можно посадить куа макаку или разраба который проведет перформанс тестирование исходя из статистики по запросам которую ему выгрузили
267 3440953
>>440934

> Питарахен наделил себя мандатом указывать кому-что что кому делать


Ты можешь только терпеть, блохастый. Я твою родную мамулечку еще хуй об ее губы вытирал
268 3440957
>>440942
У тебя какой-то слишком формальный подход. Есть проблема от кастомера - грид тормозит. Сделали таску, починили, куа подтвердил - проблема решена. Никто никакими верификациями не занимается.
269 3441083
>>440911
В современных СУБД вроде есть внутренние метрики, которые можно к той же графане подключить и смотреть.
270 3441768
Когда можно(оправдано) хранить json в БД?
271 3441801
>>441768
В логах, если по какой-то причине их надо держать именно в БД.
272 3441844
>>441801
А если в json содержит к-л заготовки данных для функций,то просто хранить как файл в системе?
273 3441852
>>441768
Хранить то можно. А вот менеджить, редактировать там, поля добавлять убирать - и сам заебешься, и базу заебешь.
274 3441957
>>441768
Когда это монга
275 3442095
>>441957
А че как в монге переименовать какое-то конкретное поле для всех документов? Перепутали немного и вместо названия поля "colour" написали "ПИДАРАС". Как поменять?
276 3442165
>>442095
Достал, переименовал, сохранил
277 3442208
>>442095
Никак, надо на каждом документе держать поле "версия схемы", а в приложении для каждой версии схемы дёргать нужную версию репозитория.
278 3442438
Ладно, похуй, стану Data Engineer'ом с нуля.
279 3443168
>>442438
У тебя на пикчах девопсы. Дата инженеры тут ну и я
280 3443179
>>443168
Офис нахуй. Щас бы в 2k26 в офисе от жары вариться вместо того чтоб на свежем воздухе в лесу из палатки работать.

Работа интересная хотя бы?
281 3443255
>>443179
Ты где офис то увидел, билять? Какой нахуй палатки? Самое удобное рабочее место твоя недвига где куплены OLED мониторы, топовое кресло и стол. Ты ещё пиздани про мантру - работа с пляжу!
282 3443449
>>443255
Первый и третий пики, там нет пометки "удалённо".
283 3443478
>>443168
Вкатиться реально? Конкуренция ниже, чем в куа/фронтенд?
284 3443481
>>443478
Реально. Ниже.
285 3443690
>>443478
А что ты умеешь?
286 3444868
Устроился первый раз в около гос контору программистом SQL, и у нас по проекту все функции в среднем занимают 200-500 строк (из которых большая часть джоины и фильтры). Это нормально или говнокод? Просто не хочу себя приучать к плохому с самого старта
287 3444874
>>444868
Говнокод - это писать бизнес-логику на SQL. Так что забей, хуже уже не будет.
288 3445230
>>444868
Если это хранимки, то очень плохо. Если обычный скуль, то зависит от того, где и как он хранится. Если прямо внутри языка в сыром виде хранишь, то плохо, если отдельно, то приемлемо.
289 3445288
>>445230

>Если это хранимки, то очень плохо.


Да, в хранимых процедурах. Ну я так и думал, что попал не пойми куда. Анлак

> Если это хранимки, то очень плохо. Если обычный скуль, то зависит от того, где и как он хранится. Если прямо внутри языка в сыром виде хранишь, то плохо, если отдельно, то приемлемо.


А как SQL можно хранить отдельно? Реализовывать запросы к БД силами самого языка?
290 3445330
>>445288

>А как SQL можно хранить отдельно?


Например, есть инструменты dbt или sqlmesh, они как раз для того, чтобы выполнять трансформации через чистый SQL. В итоге у тебя файлы с запросами хранятся так же, как обычные файлы с кодом, и их можно версионировать и всякие анализаторы по ним гонять. Плюс ты получаешь граф того, какие таблицы откуда берутся.

>Реализовывать запросы к БД силами самого языка?


Можно и так, если в самих запросах каких-то сложных подстановок нет (хотя и это сейчас вряд ли проблемой будет).
17067539945110.jpg158 Кб, 1048x786
291 3445372
292 3445437
>>445330

>Говнокод - это писать бизнес-логику на SQL.


Такая логика работает только если у тебя простейший детсадовский круд. Если у тебя запрос на пару страниц, то логика там сто проц будет. "Если сегодня не пятница" или "Если в таблице с настройками установлен флаг" или "Если у пользователя меньше десяти залуп за воротником".

>Например, есть инструменты


Хранишь ddl процедур в гите и в бороду не дуешь. Дешево и сердито.
293 3445448
>>445437

>Хранишь ddl процедур в гите и в бороду не дуешь


Хранить код вне СУБД в любом случае нужно. Только дальше проблема - как его раскатывать после изменений? Нужно прогнать тесты как минимум. Потом если что-то поломается, то надо смотреть, какие из процедур связаны с отломавшейся. А графа зависимостей нет, надо руками смотреть.
Эти вопросы решаемые, но проблема всё равно собственными руками создана.
294 3445449
>>445448
Лол, а обычные запросы ты как тестируешь? Да никак в 99% случаев. Скомпилилась процедура уже заебись. А правильность возвращаемых данных пусть тестеры на стенде тестируют.
295 3445455
>>445449

>а обычные запросы ты как тестируешь?


На тестовых данных выполняю. Для этого не надо её компилировать сначала в тестовой схеме, потом в остальных.
296 3445458
>>445455
А тестовые данные где берешь? А правильность этих данных как проверяешь? А редактируешь их как? Раз процедура поменялась, то данные скорее всего тоже.

Как не крути, а это один хуй критерии приемки, которые должны писать тестеры и аналитики. Разработчик тут нахуй не нужен, его время дороже, и дел у него своих хватает.
297 3445459
>>445458
Тестовые - подмножество продовых. Правильность данных обычно проверяю инкрементно - сначала руками проверяю очень маленький набор, из них вывожу критерии, проверяю чуть больший набор, если критерии вывел неправильно, то добавляю данные, на которых не сработало, в тестовый набор. Повторяю так ещё несколько раз, пока не станет правильно. Изменяю точно так же.
Но так как сырые данные идут от внешнего источника, на который я никак повлиять не могу, то изменения схем - редкое явление.
Я бы с радостью эту рутину отдал бы кому-то, но тестеров у нас нет (мелкая компания, не гос), во-вторых, они вряд ли бы глубоко вникали в данные и поняли бы, что вообще надо тестировать.

Я разговаривал с несколькими людьми из бигтеха российского, они мне рассказывали, что тесты к данными они тоже сами писали (дата аналитики и дата инженеры). Поэтому не думаю, что это какая-то редкость. Но допускаю, что чистые разрабы не пишут такое, они по тз сделали и дальше за стену перекинули.
298 3445461
>>445459

>Тестовые - подмножество продовых.


Откуда они на проде возьмутся если пилится новая фича.

>Я бы с радостью эту рутину отдал бы кому-то, но тестеров у нас нет


>мелкая компания


Поэтому переплачивают за низкоквалифицированную рутину, профессиональным кадрам, которых и так дефицит. Типичное кроилово от долбоебов.
299 3446052
>>445461

>Откуда они на проде возьмутся если пилится новая фича


Из сырых данных с источника. Я периодически проверяю обновления схем, которые он выкладывает, и если там есть изменения в чём-то, что я обрабатываю, то начинаю менять парсеры и трансформации. Или если я пропердел в стул обновления схемы, то данные с новой схемой уже есть.
Всё, что я делаю на своём проекте, крутится вокруг этих данных, поэтому тут сильно не разбежаться с возможными фичами.
300 3451567
>>437102
ХЗ что у них с производительностью.
Реально видел один пример
301 3451614
>>451567
Так и нахуй ты высрался если не знаешь?

Во первых, у тебя транзакция висит хуй знает сколько. Сколько ты будешь заказ оформлять? Минуту? Час?
Во вторых, у тебя с этой транзакцией висит коннект к базе. А это значит либо кому-то другому этот коннект не достанется, либо надо увеличивать количество коннектов в пуле.
В третьих, у тебя пишется в базу инфа о локе. Запрос на SELECT, а перфоманс на самом деле на INSERT или даже кучу инсертов.
Ну и в четвертых, у тебя другие транзакции по этой записи блокируются. На примере с магазином: чувак, который пришел вторым будет сидеть и ждать первого хуй знает сколько, потому что не сможет сделать свой SELECT FOR UPDATE.

КУЧА проблем. Нахуй никому не нужных кста. В сто раз проще перепроверить еще раз есть ли в наличии выбранный товар.
302 3451628
>>451614
для обновлений данных в форме делают через оптимистическую блокировку. При чтении данных отдаем в форму версию данных, форма при запросе обновления передает версию данных и мы сравниваем с текущей. Если отличается - выдаем ошибку "кто-то обновил данные"
303 3451664
>>451628
Опять же очень утрированный вариант. Который подходит для какого-нибудь очень простого круда в вакууме.

Форма создает ЗАКАЗ. Отправляет на бек КОРЗИНУ. А изменения происходят в ОСТАТКАХ. Никто не будет передавать версии остатков каждого товара. Версия оставшихся прокладок 33, а версия оставшихся груш 15. Бред.

Таблица остатков вообще скорее всего какой-нибудь синтетический junction table в котором только идентификаторы или собранная огромным запросом вьюха или вообще отдельный сервис.
304 3452095
Какие сейчас есть перспективы у разработчика SQL?
305 3452194
DBA postgres, как профилируете нагрузку?
Вот приходят ко мне и говорят у нас вчера ниработало, долго выполнялся запрос и т.д.
Посмотрю я в какой заббикс э, увижу там инфу по загрузке памяти и цпу - а толку? Загляну в пг_статс_статемент по торгам, сильно понятнее не станет.
Как узнать что творилось в моменте?
Логировать perf и выставлять log_statemebt в all?
Я верю что можно лучше придумать.
306 3452225
>>452194
Как в потешном постгресе не знаю, это же игрушечная субд, а у меня в промышленном MSSQL есть трейсы. Это лог со всей информацией, там и время выполнения, и тексты запросов, и нагрузка на систему. Прошу трейс от кастомера, дальше анализирую.
307 3452231
>>452095
Средние. Обычно там поддержка хранимок с бизнес-логикой, адхок-запросы для аналитиков и тому подобное. Расти чистым разработчиком SQL/БД особо некуда. При желании можно перекатить в смежные области, но для этого не обязательно страдать.
308 3453876
>>452231
А какие у него смежные области? ETL-кал и администрирование БД (считай техподдержка). Лучше уж в бэк или DevOps какой-нибудь
309 3454379
Хуйнёй страдаете. Катитесь в 1С срочняком. Там тупо кнопка "БАБЛО".
310 3454465
>>453876

>ETL-кал


Это. Дата инженегр, ETL-разраб, DWH инженегр. Названий много, суть одна. Лучше это или нет, анону самому решать. Может у него стояк жёсткий от работы с БД и обработки данных.
311 3454693
>>452231
Спасибо за совет. Приму к сведению

>>454465
А ты сам работаешь там? Как я понял из гугления, это что-то среднее между администрированием и перегонкой данных из БД в Excel
312 3454834
>>454693
Да, я ETL-макака по обязанностям. Забрать данные из источника, распарсить, положить в БД, преобразовать в нужный клиентам вид, перегнать в БД, откуда клиенты будут брать через веб-UI. И чтобы это всё было автоматически без простоев и потерь (на самом деле всем похуй, могу хоть руками каждый день запускать, но мне лень). В эксель обычно аналитики выгружают и сами вертят как им надо. Но если ты один айтишник в компании, то да, придётся ещё и по запросу в эксель выгружать.
Администрировать ничего не надо, если есть хотя бы сисадмин, который тебе развернёт окружением со всеми инструментами. Но я сам разворчачивал всё кроме сервера. В больших компаниях всё готовое дадут (наверное).
313 3454900
>>454834
Спасибо за ответ. очень интересно узнать детали. Какие инструменты автоматизации/разработки используешь? Airflow/dbt какой-нибудь? Докером не пользовался? Я вот просто думаю параллельно работе учить технологии для ETl/DWH
314 3454960
>>454900
Airflow для автозапуска, dbt только рассматриваю и сравниваю с sqlmesh в контексте работы с кликхаусом. Пока что все скуль скрипты запускаю из питона напрямую.
Из БД оракл (с него укатываемся), постгрес (на него перекатываемся) и кликхаус для расчётов. В докере только оракл держу.
Хадупосрак и им подобных у меня нет, объёмы данных маленькие, всё онпрем на одной машине считаю.

По инструментам есть две ссылки платиновые:
https://www.pracdata.io/p/open-source-data-engineering-landscape-2025
https://mad.firstmark.com/

Их можно просто посмотреть не углубляясь, первая полезней для России, так как опен сорс обычно приоритетней. Во второй много всяких облаков, которые неактуальны в РФ.
Реальные инструменты, которые используются, надо смотреть по вакансиям. Где-то будет спарк, где-то YTsaurus яндексовый, где-то просто связки питон+airflow+dbt хватит.
315 3455153
>>454960

> По инструментам есть две ссылки платиновые:


> https://www.pracdata.io/p/open-source-data-engineering-landscape-2025


> https://mad.firstmark.com/


Большое спасибо! Буду ознакамливаться потихоньку

> Реальные инструменты, которые используются, надо смотреть по вакансиям


Ты просто описал довольно много технологий. Ты их все одновременно в течение рабочего дня используешь, или в зависимости от текущей задачи/проекта?

И можешь ещё, пожалуйста, критически оценить ответы дипсика по поводу каждой профессии? Пытаюсь остановится на чём-то одном, но как я понял из твоих слов - это +/- одно и то же и в каждой компании называется по-разному.

Просто в большинстве вакансий часто в описание добавляют что-то про аналитику, а мне это не очень нравится (общаться с заказчиком, участвовать в созвонах и писать писанину)
316 3455316
>>455153

>Ты их все одновременно в течение рабочего дня используешь, или в зависимости от текущей задачи/проекта?


Прямо сейчас только Airflow + питон + СУБД, больше ничего. Иногда кто-то просит в эксель что-то выгрузить, для этого есть скрипты на питоне и R. Проект у меня один, так что тут сильно не разгуляться.

>как я понял из твоих слов - это +/- одно и то же и в каждой компании называется по-разному


Да, из моего опыта это всё мешают в кучу и называют или так как хотят, или так, под что уже есть готовые должностные инструкции в компании.
На твоих пиках ответы больше для западных компаний подходят как мне кажется. Полноценные devops-задачи на DE обычно не кидают, "бигдата" тоже есть не везде (а где есть, не везде нужна). SQL нужен всем без исключения.

>в большинстве вакансий часто в описание добавляют что-то про аналитику


Не, этим точно не DE занимается. В крупных компаниях есть системный аналитик для этого, в мелких есть или тимлид, или другой какой руководитель. Максимум ты будешь общаться с аналитиками данных и им подобным, которые уже знают, что им нужно (хотя некоторые, конечно, не знают).

>Буду ознакамливаться потихоньку


Это просто для кругозора, чтобы знать, какие инструменты и альтернативы под каждую задачу есть. А то многие про тот же кликхаус или duckdb вообще не слышали.
317 3455437
>>455153
Поищи в тг роадмап для ДЕ от Жени Виндюкова, куча народу вкатилось в айтишечку благодаря нему.
318 3456621
>>455437
Нихуя. Спасибо тебе огромное. Мне прям стало очень интересно заниматься, когда есть готовый путь.
319 3457398
>>400992

>Писать скули может даже саппорт если припрёт


>>400989

>Вообще скуль учится буквально за месяц, если не за недели две, по крайней мере на уровне аналитика


На самом деле это не так. Минимум полгода и это на уровне слабенького понимания как джойнятся таблицы. Про действительно сложные запросы с разбором плана планировщика и оптимизацией, плюс вьюхи и т.д включая группировки это минимум год-полтора ежедневных занятий и чтения книг с ведением конспектов
320 3457399
>>457398
Минимум полгода ты будешь учиться писать слово SELECT, потом еще по полгода на FROM и WHERE. Надо потратить минимум 5 лет ежедневных занятий по 8 часов в день, чтобы написать селект звездочка.
321 3457410
Джун может написать select звёздочка. Миддл знает про where и order by. Сеньор умеет писать join. Архитектор умет писать group by.
322 3457536
>>457399
В реальной разработке ты практически никогда не будешь писать обычные SELECT, FROM и WHERE. Ты будешь использовать фильтры, json'ы и кучу встроенных функций, которые нужно помнить, и озможно встраивать код на питоне
323 3457705
>>457536
Я пишу селекты и складываю их в хранимки. У нас продуктовая система, которая ворочает терабайтами данных, а не потешный стартап-однодневка. База крутится на одной машине на MSSQL. Когда-то у нас тоже был орм, NHibernate если не ошибаюсь, но потом система стала дико тормозить на наших объемах. Пришлось выбросить нахуй все DDD говно с абстрактными абстракциями и начать писать SQL руками.
324 3457871
Раз уж тут пошла дискуссия про ETL и иже с ними, подскажите, господа базовички.
Я аналитик (бизнес и системный в одном лице), из прикладных навыков есть SQL на среднем уровне, так как периодически надо писать ad-hoc запросы, могу поправить хранимую процедуру, в которой формируется отчёт и т.п.
Бизнес и системная аналитика смертельно заебали, хочется больше вертеться с данными. Смотрю на коллег ораклистов - у всех какой-то вайб уныния, стойкое ощущение что индустрия разработки БД породнилась с какими-нибудь крестовиками, да и судя по коллегам, вижу что перектатиться на новую работу им кратно сложнее, чем какому-нибудь фронтендеру или джависту.

Собственно, вопрос - чё делать то? Ловил кто выгорание и катился с БД на другие стеки? Как будто бы логичным и наименее болезненным процессом виднеется мне перекат в ETL/DWH/Data аналитик/инженер. Если кто перекатывал - что осваивали из навыков, достаточных для миддла где-нибудь на 200к? Вижу что нужен питон, само собой SQL, git, уметь обращаться с airflow ну и девопские бонусы по типу настройки какой-нибудь grafana. Уровень про, как я понимаю - это ещё уметь наклепать отчётность в какой-нибудь BI системе.
325 3457933
>>457705
А как DDD связано с ОРМ? Ну дергалась в коде ОРМ, теперь дергается процедура, да хоть апи, какая хуй разница?
326 3457955
>>457933
Разница в том, что DDD - это ООП, а в ООП у тебя не может быть четверти объекта, он или весь в памяти или нет. База же работает с кортежами, если тебе надо взять юзерайди юзернейм, ты только их и берешь. База отдает их из индекса, который ты партицировал на ссд, и все летает.
В итоге у тебя или 100500 дтошек и быстрое приложение, или красивое ООП с инкапсуляцией и полный пиздец с производительностью.
327 3457983
>>457536
я пишу селект звёздочка в реальной разработке. Ибо орм обсирается когда дело выходит дальше показа демо заказчику
328 3458000
>>457955

>DDD - это ООП


Это разумеется не так.

Про "целость" объекта тоже какая-то хуйня написана. Тебе нужны определенные данные, чтобы сделать работу. Ты хоть ебанись, а их придется получить. То что "объект" должен по какой-то хуй пойми какой причине быть больше чем "дтошка" ты сам себе выдумал.

А самое смешное, что в DDD как раз одна из основных идей это контекст. В контексте прав "пользователь" - это буквально ID + список прав. А в контексте профиля "пользователь" - это "Имя", "Телефон" и прочая хуйня. То есть буквально одна из основных идей DDD - создавать под каждую ситуацию свой объект, в котором только нужные данные.

>100500 дтошек и быстрое приложение, или красивое ООП


Тут просто какая-то шизофазия уже пошла. А дтошки с какого хуя объектами перестали быть? И код, который с ними работает разве не в объектах? И на этот код что, все эти вредные "икапсуляции" не распространяются и там можно просто срать по настроению?

Ладно, спишем на то, что это просто то как видит приложение не программист, который только краем уха слышал про все эти аббревиатуры. Не тот тред чтобы лекции по DDD читать. Проехали.
329 3458007
>>458000
>>457955
А могли бы хранить всё в KV базе и не ебать себе мозги. Пиздец, ну и проблемы в этом вашем SQL кале.
330 3458109
>>458007
А как в kv кале сделать агрегацию какую-нибудь? Посчитать сумму по периодам? А как в kv кале подтянуть к остаткам бренды и сопутку и отфильтровать товары, для которых сопутки больше, чем самого товара, но оставить бренды, проплатившие показ сопутки?
331 3458183
>>458109
Пишешь скрипт и агрегируешь, считаешь суммы и занимаешься чем угодно ещё, ты ничем не ограничен. Можешь даже выбрать своё представление или написать трёхмерную репрезентацию, подсчитывать по любоым кривым и любым функциям. Т.к. ты всё это делаешь с максимальной эффективностью - время всех запросов раз в 30 меньше чем в SQL. Круто, да? Но тебе придётся кушать SQL кал.
332 3458217
>>458183
Какая нахуй эффективность, если тебе приходится все данные себе в скрипт тянуть? Скачал себе пол базы, чтобы простенький аналитический запрос сделать. Ну а хули, вселенная остывает, надо подогреть.
333 3458235
>>458217

> Скачал


Что ты там качать собрался, шизло? Бд в озу реплики находится.
Nicolas Cage laughing.mp42,1 Мб, webm,
1920x1080, 0:25
334 3458276
335 3458349
>>458000
Когда-нибудь ты тоже вкатишься в айти, попробуешь

>создавать под каждую ситуацию свой объект


и будешь обоссан на ревью.
336 3458351
>>458183
Ты дурачок.
337 3458355
>>458351

> ну маам, ну скажи им что писать sql-кал это очень важно

338 3458361
>>458355

>мам я не понимаю множества я гуманитарий че они ржут ну мам

339 3458365
>>458361

> ну множества, мам, множества только в sql можно поститать!1 скажи им, мааам!11

340 3458377
Haha Mongo go brrr
341 3458391
342 3458614
>>382705 (OP)
Да как выучить СыКуЭль на достойном уровне, чтобы не валиться на собесах? Один книг от Джона Цэлко с десяток наберется!
343 3458639
>>458614
Достойном уровне для чего? Бэкенда? Базовый SQL за один день учится
344 3458694
>>458639
Есть классные книги, которые подготовят меня к написанию запросов на бекенде? Ну чтобы с джоинами, группировками и т.д? Sql for data analysis подойдет? С птичкой такая
345 3458704
>>458694

>Есть классные книги, которые подготовят меня к написанию запросов на бекенде?


Нет.
346 3458722
>>458694
Для бека достаточно порешать простые задачи на любом сайте по СКЛю. Ничего сложнее джойнов у тебя и то из двух таблиц
347 3458728
>>458722
На беке очень сложные запросы. Это не аналитики и прочие бездельники вроде дата саентистов. Во всех вакансиях написано, что нужно уметь писать сложные и оптимизированные запросы, шарить за план запросов и уметь правильно создать индексы
348 3458762
>>458728
Значит работа - кал ,и не нужно там работать. В нормальном месте этим занимаются отдельные люди
349 3458794
>>458762
Никто не станет за бекендера писать запросы
350 3458801
>>458794
А срать мне тоже самому? Да вы там охуели все.
351 3458842
>>458728
А аналитики где по-твоему запросы пишут, на фронте?
352 3459112
>>458842
На DBeaver'е очевидно.
353 3459159
>>458842
Аналитические запросы не выполняеются по клиентским запросам. Обычно это зашедуленные таски для составления отчетов по холодным данным. Речь про системы, которые напрямую взаимодйествуют с пользователями, когда они кликают на кнопки и жмут на UI в телефоне
354 3459193
>>459112
А разработчики где пишут?
355 3459273
>>459159
Во-первых, выполняются по запросу ещё как. Во-вторых, эти запросы пишут как раз аналитики, а не бэкендеры, у бэкендера нет квалификации писать и оптимизировать сложные аналитические запросы.
356 3459274
>>459193
В датагрипе, получается.
357 3459308
>>459273
Это разные вещи. В аналитике похуй, сколько будет работать запрос. Если он пердит полчаса - включим ночью, не страшно. В бекенде полчаса никто ждать не будет, там секунда уже охуеть тормоза.
358 3459318
>>459308

>В аналитике похуй, сколько будет работать запрос


Не похуй. У клиентов витрины, им нужно как можно быстрее получить результат. А пока ты ночью будет ставить что-то считаться, потом исправлять свои корявые расчёты следующей ночью, запрос уже станет неактуальным.
359 3459788

>Q: Что лучше, SQL или NoSQL?


>A: SQL


Почему?
360 3459854
>>459788
Верь мне.
361 3459869
>>459788
Вопрос конечно полная хуйня. Для чего лучше?
362 3459876
>>459788
NoSQL на практике - это или масштабируемый input buffer на кафке, или кеш на редисе. Оба решения являются вспомогательными и без них можно обойтись. Сердце больших систем по-прежнему SQL субд, не потешный постгрес, а мощные йобы уровня оракл.
363 3459887
Каково мнение экспертов по OLAP кубам?
364 3459888
>>459869

>Что лучше, структурированный язык запросов или не структурированный язык запросов?


Теперь вопрос по другому зазвучал? Долбоебы не понимают что SQL - это в первую очередь язык и стандарт, а не реализация хранилища. Кассандра и кликхаус базы не реляционные, однако это им не мешает использовать для запросов подмножество SQL.
365 3459892
>>459888
Клик не реляционный?
366 3459909
>>459888
Кликхауз реляционный, просто там данные хранятся не по строкам, а по столбцам.
367 3459928
>>459909
Монга тоже реляционная, просто там данные хранятся не по строкам, а по документам.
368 3459975
>>459876

> не потешный постгрес


Я программирую на постгрес, не надо его обижать...
369 3460046
>>459975
Ну да, грешно смеяться над убогими.
370 3460049
>>460046
Ну почему же платят тогда 200к?
371 3460078
>>457955

>Разница в том, что DDD - это ООП, а в ООП у тебя не может быть четверти объекта, он или весь в памяти или нет.


Может, я разрешил использовать прокси-объекты с лейзи-лоадингом по геттеру не благодарите
372 3460090
>>460078

>в ООП у тебя не может быть четверти объекта


какое же ооп говно

сишкабог
373 3460091
>>460078
И вместо одного запроса делать N. Отличный план!
374 3460127
>>460091
Не про это речь
375 3460665
Нейросеть не знает, что в Postgres есть оператор ELSEIF (коворит, что есть только ELSIF). О какой замене программистов может идти речь?
376 3460675
>>460665
Везде так. Она будет нам помогать.
377 3460700
>>460665

>О какой замене программистов может идти речь?


О той, которую ты у себя в голове нафантазировал?
378 3461502
>>460665
Прикинь, экскаватор не работает без экскаваторщика и без топлива, и не знает, где проложен электрокабель, но всё равно заменяет тысячи землекопов.
379 3462747
Есть какие-нибудь гайды по explain analyze в постгресе? Читаю хабр, пока тяжело идёт
380 3462824
>>462747
TABLE SCAN - плохо
INDEX SCAN - средне
INDEX LOOKUP - хорошо
TABLE LOOKUP - можно убрать, но не критично
Теперь ты знаешь кунг-фу, Нео.
381 3462883
>>462824
Забыл
NESTED LOOP - пиздец
382 3462928
>>462747

>Читаю хабр


Кривой перевод тухлой статьи? Хабр для пидоров
383 3463257
почему никто не написал мнение? Неужели никто не пользуется...
GreenPlum 384 3463402
>>462824
Gather motion - заебись
Redistribute motion - сойдёт
Broadcast motion - пиздец
385 3464865
>>462928
А что не для пидоров?
467ur7.jpg39 Кб, 680x494
386 3464892
17467222637200.jpg195 Кб, 600x615
387 3466345
В пизду, даже спрашивать вас не хочется кроме камаза говна от вас хуй что дождешься.
388 3467409
>>466345
Спроси, я знаю про постгрес немного
389 3467415
>>466345
У жпт спроси. Жпт не будет выёбываться.
390 3467421
>>467415
Ну в целом правильно. Если в треде получил совет пойти нахуй, то советы жпт говна примерно в это направление и приведут.

Просто слушать от живого человека правду неприятно. А жпт разобьет процесс на несколько этапов, не будет грубить и спорить, а потихоньку, аккуратно отведет тебя нахуй.
391 3467423
>>467421
Прям как у анона с дуалбутом из нюфаг-треда, которому жпт отформатировала раздел с виндй.
392 3467450
>>467421
>>467423
Просто версию поумнее выбрать надо. И промпт нормальный сделать.
393 3467457
>>467423
Да просто бэкап важных файлов надо было сделать. Тогда можно было бы сколько угодно играться с попытками установки винды и к винде второй линупс ОС.

Или на новый пустой конпьюктерн, ноут ставить тогда вообще пох. Там же нет никаких файлов накопленных в процессе жизнедеятельности.
394 3467545
>>467450
>>467457
Шли бы вы, ребят, нахуй отсюда.
395 3469785
Как стать DBA с нихуя с нуля? 0 вакансий ждунов. Сиськодмином не хочу быть, слишком хайпово. Девопсом тоже слишком хайпово. Дата инженером тоже слишком хайпово. Разраб это совсем уж попса и позор.

Остаётся только администратором Баз Данных стать.

Есть варики организовать свою лабу на зеонах. Норм для практики, чтоб мидлом попытаться устроиться через год? Думаю качаться год. Щас работаю 2/2, на работе есть 2-3 часа свободного времени. Ну и в выхи тож буду по 2-3 часа учиться. Как раз за год 800-1000 часов научусь.
396 3469875
>>469785
Не, хуйня. Задачи бизнеса хуй ты когда повторишь на своих зионах.

>DBA



Зачем вообще вкатываться в умирающую отрасль?

мимо сеньер DE
397 3469879
>>469785
Вообще не вкатываться в эту хуйню. Сразу идти в бизнес-аналитику или системный анализ, оттуда уже переквалифицироваться, если захочется это вряд ли
398 3469881
>>469875

>мимо сеньер DE


А чем DE отличается от DBA по сути? Вы код не пишите, смотрите свои графики и ETL
399 3469884
>>469879
Как вообще бизнес анализ связан с амдинством?
400 3469888
Тут уважаемые господа с CRDT присутствуют? Или только SQL калоеды?
401 3469924
>>469881
По разному. Я вообще занимаюсь и микросервисами и немного фронтендом и чуток cicd. Много пишу на петухоне. И конечно же elt ковыряю слегка. Мы просто делаем платформу данных чтобы любая макака зашла, залогинилась и делала свои пайплайны без анальной ебли.
402 3469926
>>469924
А как же SQL? Если ты пишешь 90% на питоне, то какой это тогда DE
403 3469952
>>469881

>смотрите свои графики и ETL


Ты как-то плохо представляешь чем занимаются de и что такое etl.
404 3469956
>>469926
SQL сложные АНАЛитические пишут АНАЛитики. Бывает запросы оптимизирую. А так любая бизнес часть пишется людьми которые шарят в этой области. Я могу писать SQL, но это мне нахуй не надо.
405 3469970
>>469952

>Ты как-то плохо представляешь чем занимаются de и что такое etl.


Так объясни. Или ты сам не понимаешь?
406 3469984
>>469970
Что именно тебе объяснить? Берёшь данные из источников, меняешь их так как надо тебе (трансформации), кладёшь их туда, откуда будут забирать аналитики или манагеры. Тут везде надо писать код (если трансформации не совсем тривиальны конечно). Какие графики кто тут смотрит по-твоему? Мониторинг в графане? Этим редко de занимаются.
407 3470062
>>469984
А как же отслеживание пайплайнов
408 3470158
>>470062
Упала таска - пришло уведомление. Графики тут тоже не нужны. Для красоты можно сделать, конечно, если нравится втыкать. Но для работы не нужно.
409 3470203
>>470062
Я видел вакансию техподдержки процессов etl у альфа банка.
410 3470204
>>470203
И чем там предстояло заниматься?
412 3470672
>>470216
Норм вакансия для вкатунов в DE.
413 3470722
>>470672
Хз, вряд ли. Это ж рутина, ты тут ничему не научишься. Учиться самому придётся в свободное время.
414 3471155
Почему в треде по SQL собрались дата инженеры, если по вашей же версии, 90% времени вы пишите на условном питоне
415 3471302
>>471155
Во-первых, потому что это не скуль тред, а БД тред, а DE работают с БД.
Во-вторых, никто итт не писал, что пишет "90% времени" на питоне будучи DE.
В-третьих, DE не обязаны большую часть времени писать на скуле.
416 3471318
>>471155
SQL-говноеда даванули в собственном треде. Эка потеха!
image.png1 Кб, 323x28
417 3471739
>>471302
А это чё?
418 3471928
>>471739
Скриншот, на котором написано, что это тред по базам данных.
419 3472069
>>470722
Базово хотя бы в резюме можно будет вписать Airflow, Greenplum, SQL. А далее двигаться уже. Я свой путь в DE начинал со специалиста бизнес-отчетности в коллекторском агентстве. Хотя бы запросы научился писать. И далее уже двигался в Oracle. Потом в GP/Hadoop.
image.png8 Кб, 575x104
420 3472221
Насколько это адекватные требования для DE? У кого-то было такое? Меня просто блевать тянет от бизнес-аналитики, я просто хочу сидеть и писать код
421 3472225
>>472221
Gde kak bratuh, u nal v latvii analytic DWH vsegda takim zanimaetsa.
422 3472237
>>472221
Скипай, долбоебы хотят человека-оркестра. DE не должен собирать бизнес требования, это бред
423 3472314
>>472221
Вакансия DE + System analyst + Support пытаются экономить.

Очень часто ещё связка DE + DWH Architect + System Analyst особенно в вакансиях в Европу/США
424 3472445
>>472237
>>472314
Только на таких позиция и можно вырасти профессионально. Это архитекторский трек. А не бездумное аутичное дрочение кода и закрытие аккуратно нарезанных тасочек за мелкий прайс.
425 3472591
>>472445

> закрытие аккуратно нарезанных тасочек за мелкий прайс.


Такое только в галимом аутстафе. В обоссаных консалтингах. Там работать - себя не уважать.
426 3472592
>>472591
Гораздо лучше закрывать не нарезанные тасочки, а чистый поток сознания прямиком из головы кабан кабаныча. Тоже за мелкий прайс..
427 3472593
>>472592

> чистый поток сознания прямиком из головы кабан кабаныча


This. Зато мозг начинает работать. Начинаешь понимать как все эти механизмы шевелятся в компании.

>Тоже за мелкий прайс..


Как повезет.
428 3472610
>>472314

> бизнес требования


> System analyst


Как тебя вообще на работу взяли?
429 3472620
>>472591

> В обоссаных консалтингах. Там работать - себя не уважать.


Извинись, тварь.
1000067774.jpg729 Кб, 1220x1624
430 3472628
>>472610
Буквоед, угомонись.

>>472620
Хехе, ну просто я сам работал в консалте. Недолго. Потом ушел в риски, потом в классический develop говна, потои уже на продукт. На продукт где тасочку можно неделями пилить, думая о вечном. И где платят норм для ДС.
431 3472673
>>472628

>Хехе, ну просто я сам работал в консалте. Недолго. Потом ушел в риски, потом в классический develop говна, потои уже на продукт. На продукт где тасочку можно неделями пилить, думая о вечном. И где платят норм для ДС.


Что за сфера?
432 3472684
>>472628
Выделенный DE под риски? Это че за хуйня, это где так и нахуя? Сколько лет в банках отвеслал, никогда такого не видел.
433 3472886
>>472673
В банках и финтехах.

>>472684
Даже два DE было. Дрочили данные туда сюда. И три аналитика было. DE делал всякие мониторинги, оповещения, репликации хуйни, всякие регулярные залупы автоматизировал.

Забавное расскажу, до моего прихода было 4 аналитика. Четвертую наняли чтобы делать отчёты. Мадам приходила, нажимала в PL/SQL Developer кнопку запуска скрипта, ждала полчаса и скидывала рукле. Скрипты медленные по полчаса на скрипт, куча коррелирующих подзапросов в select, два десятка джойнов, про патриции не слышали. Все остальное время сидела ногти себе пилила. Я оптимизировал и поставил на обычный cron с отправкой на почту. Девочку-аналитика сократили. 2017 год.
434 3472957
>>472886

>патриции


Два чаю этому инженеру
1000067787.jpg34 Кб, 1220x354
435 3473022
>>472957
Партиция конечно. Секции если желаешь. Partition билять. Телефон даже такого слова не знает, ибо его в русском языке нет.

Что за школьник-буквоед тут завелся? Бдит за каждым словом.
436 3474077
Пацаны, сколько крутые DE и прочие БДшники получают, 500к/мес будет? Душа лежит к этой отрасли но не хотелось бы всирать много сил чтобы потом выяснилось что зп будет как сейчас. Я бэкендер
1000067767.mp420 Кб, mp4,
164x172, 0:02
437 3474153
>>474077
Мидлы 150-350к гросс, сеньки 300-450к гросс. 500к гросс не видел таких зарплат у спецов в de, тимлид/техлид может быть так получают, но хз.

Сильно зависит где будешь работать. Обычный etl-грузчик будет заведомо хуйню получать. Грузчик с намеком на архитектуру и базовую аналитику будет получать больше.

Есть ещё типа такие как я: смесь бека + etl. Пилю всякие сервисы, cicd ковыряю, платформу развиваю, ну и elt - куда без него.

сенька de 380к гросс с годовым бонусом в 1 млн
438 3474160
>>474153

>380к гросс с годовым бонусом в 1 млн


Ну т.е. де-факто 460 в месяц в хорошую погоду, если руководить всякой хуйнёй не надо то тем более круто. А на международном рынке как, не знаете?
1000067841.jpg162 Кб, 1220x470
439 3474163
>>474160
Вот смотри один популярный европейский банк в Австрии. Отнимай -45% налога.

Раньше в США можно было неплохо получать через EPAM какой нить. Сейчас хуй знает. Очень часто на западе от DE требуют погружаться в предметную область, проводить профилирование данные. В общем там DE = DA + DE.
440 3474173
>>474163
Понял спасибо
441 3474179
>>474153

>Есть ещё типа такие как я: смесь бека + etl. Пилю всякие сервисы, cicd ковыряю, платформу развиваю, ну и elt - куда без него.


Можешь поподробнее рассказать что именно пишешь, и что значит развиваешь платформу?
442 3474182
>>474077

>Душа лежит к этой отрасли


Как ты понял, что лежит? Ты вообще понимаешь чем DE занимается?
443 3474186
>>474182
Я не занимаюсь DE, мне просто с БД и СУБД интереснее работать чем круды говнякать
444 3474187
>>474179

> Можешь поподробнее рассказать что именно пишешь


На петухоне fast api всякие api. Например чтобы даги airflow автоматом генерить. Или там сервис метаданных развить. Или сервис семафоров, чтобы знать о готовности данных.

> и что значит развиваешь платформу?


То и значит, есть одна платформа на весь банк. Так сделано чтобы каждая новая команда не с нуля развивала свой etl, а юзала платформу все сервисы, хранилища, фреймворки etc. Переиспользование наработок.
445 3474193
>>474186
Работа с OLAP, это не тоже самое что с OLTP. Ты с OLTP работал до этого, но когда придёшь в хранилища то охуеешь, как тут все устроено. Хранилища это хранилища, не путай просто с бд для сервиса какого нибудь.
446 3474214
>>474193

> Работа с OLAP, это не тоже самое что с OLTP


В чём это выражается?
447 3474222
>>474214
В хранилищвх OLAP нет уникальных клюлей, нет индексов. Нет констреинтов. Все проверки делаются просто на основе данных и отсылаются просто в мониторинг.

Куча нюансов, даже лень расписывать. Просто по характеру обращений к таким базам куча различий. В настройках. В размере блока и т.п. Учитывая что часть бд вообще делалась под хранилища: GreenPlum, Vertica, Teradata.
448 3474288
>>474222

>клюлей


Кого-кого?

мимо
449 3474309
>>474288
Сокращение от "кебаб-люля"
450 3474310
>>474288
PK, UQ
451 3474317
452 3474734
кто-нибудь на sqlalchemy (python) пишет ?
453 3474738
>>474734
См. шапку:

> A: Лучше спроси в тредах по конкретным языкам.


В питон-треде тебе наверняка быстрее помогут с твоим вопросом.
454 3475617
В каких айти сферах упор именно на работу с бд? Нравится запросики писать и в субд ковыряться.
455 3475674
>>475617
DBA, DBD, SQL Developer, Data engineer, DWH инженер, ETL инженер.
Но надо смотреть в первую очередь на сами задачи. Назвать должность как угодно могут.
456 3475684
>>475674

>SQL Developer


Интересный зверь. Специализируется на pl/sql / pl/pgsql как я понял?
457 3475764
458 3475849
>>475674

> SQL Developer


Буквально моя должность. Из минусов - зарплата, из плюсов - много свободы и мало контроля

>>475684

>/ pl/pgsql


Да. Иногда C# и Python, видел какие-то скрипты на Delphi но это скорее легаси
459 3475955
Есть какие-нибудь книги или курсы для изучения DE / ETL / DWH / DBA? Рассматриваю возможность переката
460 3475967
>>475849

>Из минусов - зарплата


Какая, если не секрет? Мне кажется все лучше чем быть экселеебом за 30к как я
461 3475997
>>475967
65к до налогов (работаю пару месяцев). У сеньера 120-150к, у тимлида <200к. Но это региональная около-муниципальная компания, в каком-нибудь крупном финтехе, думаю, зарплаты как в остальном айти
1000067928.jpg633 Кб, 1220x2024
462 3476001
>>475955
Из книг только вот это годное, но все по верхам, зато суть поймёшь
463 3476077
>>475955
Сверхочевидный кабанчик.
464 3476519
Какую ОС для работы используют уважаемые дата инженеры? Нужно ли знать Linux?
465 3476580
>>476519
Ну вот смотри.
Когда ты сидишь в кафешке, типа работаешь и пьёшь кофэ, оттопырив мизинчик, у тебя должен быть макбук с макосью, иначе пацаны не поймут.
Все дела ты решаешь через мобилу. Естественно, ипхон с иосью. Опять же, пацаны, все дела.
Сервак будет под линухом. Без вариантов.
Играть в тунчесы и смотреть порнуху будешь на винде.
И в запасе будет телефон с андроидом для настоящей деловой активности.
466 3478509
Кто-нибудь использует pgAdmin для работы? Мы обычно в DBeaver запросы пишем, хотя как я сейчас почитал, в pgAdmin намного больше инструментов для постгреса (отладка, визуализация запросов)
467 3483027
Самый мёртвый тред на доске. SQL has fallen
468 3483122
>>483027

>SQL has fallen


Альтернатив нет.
469 3483254
>>483122
No SQL
image.png90 Кб, 232x217
470 3483256
>>483027
Зачем обсуждать то что просто работает
471 3483491
>>483256
Двачаю, уже 50 лет такой же стабильный. Особо ничего не меняется. Универсальный навык уже как полвека.
472 3483543
>>483254
Так монголДБ соснул — постгрес умеет то же самое лучше и быстрее, чем делает его окончательно ненужным.
473 3484865
Немного дебильный вопрос, целую в хуй тех кто ответит. Взлом каких субд наиболее привлекателен для хакеров? Ну и насколько сильно защищен от них постгрес.
474 3484891
>>484865
Почти все БД авторизуются по логопасу, либо по LDAP/AD. Если у тебя коннект базы данных торчит в интернет, то это пиздец какая дыра. Считай что база уже взломана.

В общем делай бд внутри сети, пароли в 32 символа и будет счастье.
Обновить тред
« /pr/В начало тредаВеб-версияНастройки
/a//b//mu//s//vg/Все доски

Скачать тред только с превьюс превью и прикрепленными файлами

Второй вариант может долго скачиваться. Файлы будут только в живых или недавно утонувших тредах.Подробнее