SQL для определения минимальных последовательных дней доступа?

В следующей таблице "История пользователя" содержится одна запись за каждый день, когда данный пользователь обратился к веб-сайту (в течение 24-часового периода UTC). В нем много тысяч записей, но только одна запись в день для каждого пользователя. Если пользователь не обратился к веб-сайту за этот день, запись не будет создана.

Id      UserId   CreationDate
------  ------   ------------
750997      12   2009-07-07 18:42:20.723
750998      15   2009-07-07 18:42:20.927
751000      19   2009-07-07 18:42:22.283

То, что я ищу, - это SQL-запрос в этой таблице с хорошей производительностью, который сообщает мне, какие пользователи были доступны на веб-сайте для (n) непрерывных дней, не пропуская ни дня.

Другими словами, , сколько пользователей имеют (n) записи в этой таблице с последовательными (день за днем ​​или днем) датами? Если в последовательности отсутствует какой-либо день, последовательность прерывается и должна перезапускаться снова в 1; мы ищем пользователей, которые достигли непрерывного количества дней здесь без пробелов.

Любое сходство между этим запросом и конкретным значком является, конечно, совпадением..:)

Ответ 1

Ответ, очевидно:

SELECT DISTINCT UserId
FROM UserHistory uh1
WHERE (
       SELECT COUNT(*) 
       FROM UserHistory uh2 
       WHERE uh2.CreationDate 
       BETWEEN uh1.CreationDate AND DATEADD(d, @days, uh1.CreationDate)
      ) = @days OR UserId = 52551

EDIT:

Хорошо, мой серьезный ответ:

DECLARE @days int
DECLARE @seconds bigint
SET @days = 30
SET @seconds = (@days * 24 * 60 * 60) - 1
SELECT DISTINCT UserId
FROM (
    SELECT uh1.UserId, Count(uh1.Id) as Conseq
    FROM UserHistory uh1
    INNER JOIN UserHistory uh2 ON uh2.CreationDate 
        BETWEEN uh1.CreationDate AND 
            DATEADD(s, @seconds, DATEADD(dd, DATEDIFF(dd, 0, uh1.CreationDate), 0))
        AND uh1.UserId = uh2.UserId
    GROUP BY uh1.Id, uh1.UserId
    ) as Tbl
WHERE Conseq >= @days

EDIT:

[Jeff Atwood] Это отличное быстрое решение и заслуживает того, чтобы его приняли, но Решение Rob Farley также превосходно и возможно даже быстрее (!). Пожалуйста, проверьте это тоже!

Ответ 2

Как насчет (и, пожалуйста, убедитесь, что предыдущий оператор закончил с точкой с запятой):

WITH numberedrows
     AS (SELECT ROW_NUMBER() OVER (PARTITION BY UserID 
                                       ORDER BY CreationDate)
                - DATEDIFF(day,'19000101',CreationDate) AS TheOffset,
                CreationDate,
                UserID
         FROM   tablename)
SELECT MIN(CreationDate),
       MAX(CreationDate),
       COUNT(*) AS NumConsecutiveDays,
       UserID
FROM   numberedrows
GROUP  BY UserID,
          TheOffset  

Идея состоит в том, что если у нас есть список дней (как число) и row_number, то пропущенные дни делают смещение между этими двумя списками немного больше. Поэтому мы ищем диапазон, который имеет согласованное смещение.

Вы можете использовать "ORDER BY NumConsecutiveDays DESC" в конце этого или сказать "HAVING count (*) > 14" для порога...

Я не тестировал это, хотя, просто записывая его с головы. Надеюсь, он работает в SQL2005 и далее.

... и будет очень полезен индекс на tablename (UserID, CreationDate)

Отредактировано: Оказывается, смещение является зарезервированным словом, поэтому вместо этого я использовал TheOffset.

Отредактировано: предложение использовать COUNT (*) очень важно - я должен был сделать это в первую очередь, но на самом деле не думал. Раньше он использовал датифф (день, мин (CreationDate), max (CreationDate)).

Rob

Ответ 3

Если вы можете изменить схему таблицы, я бы предложил добавить столбец LongestStreak в таблицу, которую вы установили бы на число последовательных дней, заканчивающихся на CreationDate. Легко обновить таблицу во время входа в систему (аналогично тому, что вы делаете уже, если ни один из строк не существует текущего дня, вы проверите, существует ли какая-либо строка за предыдущий день. Если значение true, вы увеличите значение LongestStreak в новой строке, в противном случае вы установите значение 1.)

Запрос будет очевиден после добавления этого столбца:

if exists(select * from table
          where LongestStreak >= 30 and UserId = @UserId)
   -- award the Woot badge.

Ответ 4

Некоторые красиво выразительные SQL по строкам:

select
        userId,
    dbo.MaxConsecutiveDates(CreationDate) as blah
from
    dbo.Logins
group by
    userId

Предполагая, что у вас есть определяемая пользователем функция агрегации, что-то похожее (будьте осторожны, это ошибка):

using System;
using System.Data.SqlTypes;
using Microsoft.SqlServer.Server;
using System.Runtime.InteropServices;

namespace SqlServerProject1
{
    [StructLayout(LayoutKind.Sequential)]
    [Serializable]
    internal struct MaxConsecutiveState
    {
        public int CurrentSequentialDays;
        public int MaxSequentialDays;
        public SqlDateTime LastDate;
    }

    [Serializable]
    [SqlUserDefinedAggregate(
        Format.Native,
        IsInvariantToNulls = true, //optimizer property
        IsInvariantToDuplicates = false, //optimizer property
        IsInvariantToOrder = false) //optimizer property
    ]
    [StructLayout(LayoutKind.Sequential)]
    public class MaxConsecutiveDates
    {
        /// <summary>
        /// The variable that holds the intermediate result of the concatenation
        /// </summary>
        private MaxConsecutiveState _intermediateResult;

        /// <summary>
        /// Initialize the internal data structures
        /// </summary>
        public void Init()
        {
            _intermediateResult = new MaxConsecutiveState { LastDate = SqlDateTime.MinValue, CurrentSequentialDays = 0, MaxSequentialDays = 0 };
        }

        /// <summary>
        /// Accumulate the next value, not if the value is null
        /// </summary>
        /// <param name="value"></param>
        public void Accumulate(SqlDateTime value)
        {
            if (value.IsNull)
            {
                return;
            }
            int sequentialDays = _intermediateResult.CurrentSequentialDays;
            int maxSequentialDays = _intermediateResult.MaxSequentialDays;
            DateTime currentDate = value.Value.Date;
            if (currentDate.AddDays(-1).Equals(new DateTime(_intermediateResult.LastDate.TimeTicks)))
                sequentialDays++;
            else
            {
                maxSequentialDays = Math.Max(sequentialDays, maxSequentialDays);
                sequentialDays = 1;
            }
            _intermediateResult = new MaxConsecutiveState
                                      {
                                          CurrentSequentialDays = sequentialDays,
                                          LastDate = currentDate,
                                          MaxSequentialDays = maxSequentialDays
                                      };
        }

        /// <summary>
        /// Merge the partially computed aggregate with this aggregate.
        /// </summary>
        /// <param name="other"></param>
        public void Merge(MaxConsecutiveDates other)
        {
            // add stuff for two separate calculations
        }

        /// <summary>
        /// Called at the end of aggregation, to return the results of the aggregation.
        /// </summary>
        /// <returns></returns>
        public SqlInt32 Terminate()
        {
            int max = Math.Max((int) ((sbyte) _intermediateResult.CurrentSequentialDays), (sbyte) _intermediateResult.MaxSequentialDays);
            return new SqlInt32(max);
        }
    }
}

Ответ 5

Похоже, вы могли бы воспользоваться тем фактом, что для непрерывности в течение n дней требуется наличие n строк.

Так что-то вроде:

SELECT users.UserId, count(1) as cnt
FROM users
WHERE users.CreationDate > now() - INTERVAL 30 DAY
GROUP BY UserId
HAVING cnt = 30

Ответ 6

Выполнение этого с помощью одного SQL-запроса кажется мне слишком сложным. Позвольте мне разбить этот ответ на две части.

  • Что вы должны были сделать до сих пор и начать делать сейчас:
    Запустите ежедневное задание cron, которое проверяет каждый пользователь, который он зарегистрировал сегодня, а затем увеличивает счетчик, если он имеет или устанавливает его на 0, если он этого не сделал.
  • Что вы должны сделать сейчас:
    - Экспортируйте эту таблицу на сервер, который не запускает ваш сайт и не понадобится некоторое время.;)
    - Сортировка по пользователю, затем по дате. - продолжайте последовательно, держите счетчик...

Ответ 7

Если это так важно для вас, отправьте это событие и запустите таблицу, чтобы предоставить вам эту информацию. Не нужно убивать машину со всеми этими безумными запросами.

Ответ 8

Вы можете использовать рекурсивный CTE (SQL Server 2005 +):

WITH recur_date AS (
        SELECT t.userid,
               t.creationDate,
               DATEADD(day, 1, t.created) 'nextDay',
               1 'level' 
          FROM TABLE t
         UNION ALL
        SELECT t.userid,
               t.creationDate,
               DATEADD(day, 1, t.created) 'nextDay',
               rd.level + 1 'level'
          FROM TABLE t
          JOIN recur_date rd on t.creationDate = rd.nextDay AND t.userid = rd.userid)
   SELECT t.*
    FROM recur_date t
   WHERE t.level = @numDays
ORDER BY t.userid

Ответ 9

Joe Celko имеет полную главу об этом в SQL для Smarties (называя его Runs and Sequences). У меня нет этой книги у себя дома, поэтому, когда я приступаю к работе... я действительно буду отвечать на это. (при условии, что таблица истории называется dbo.UserHistory, а число дней - @Days)

Еще одно руководство - Блог группы SQL при запуске

Другая идея, которую я имел, но не имею SQL-сервера, который может работать здесь, - это использовать CTE с секционированным ROW_NUMBER следующим образом:

WITH Runs
AS
  (SELECT UserID
         , CreationDate
         , ROW_NUMBER() OVER(PARTITION BY UserId
                             ORDER BY CreationDate)
           - ROW_NUMBER() OVER(PARTITION BY UserId, NoBreak
                               ORDER BY CreationDate) AS RunNumber
  FROM
     (SELECT UH.UserID
           , UH.CreationDate
           , ISNULL((SELECT TOP 1 1 
              FROM dbo.UserHistory AS Prior 
              WHERE Prior.UserId = UH.UserId 
              AND Prior.CreationDate
                  BETWEEN DATEADD(dd, DATEDIFF(dd, 0, UH.CreationDate), -1)
                  AND DATEADD(dd, DATEDIFF(dd, 0, UH.CreationDate), 0)), 0) AS NoBreak
      FROM dbo.UserHistory AS UH) AS Consecutive
)
SELECT UserID, MIN(CreationDate) AS RunStart, MAX(CreationDate) AS RunEnd
FROM Runs
GROUP BY UserID, RunNumber
HAVING DATEDIFF(dd, MIN(CreationDate), MAX(CreationDate)) >= @Days

Выше, вероятно, WAY HARDER, чем это должно быть, но оставлено в виде мозговой щекотки, когда у вас есть другое определение "пробега", чем просто даты.

Ответ 10

Пара Параметры SQL Server 2012 (при условии, что N = 100 ниже).

;WITH T(UserID, NRowsPrevious)
     AS (SELECT UserID,
                DATEDIFF(DAY, 
                        LAG(CreationDate, 100) 
                            OVER 
                                (PARTITION BY UserID 
                                     ORDER BY CreationDate), 
                         CreationDate)
         FROM   UserHistory)
SELECT DISTINCT UserID
FROM   T
WHERE  NRowsPrevious = 100 

Хотя с моими примерными данными более эффективными были

;WITH U
         AS (SELECT DISTINCT UserId
             FROM   UserHistory) /*Ideally replace with Users table*/
    SELECT UserId
    FROM   U
           CROSS APPLY (SELECT TOP 1 *
                        FROM   (SELECT 
                                       DATEDIFF(DAY, 
                                                LAG(CreationDate, 100) 
                                                  OVER 
                                                   (ORDER BY CreationDate), 
                                                 CreationDate)
                                FROM   UserHistory UH
                                WHERE  U.UserId = UH.UserID) T(NRowsPrevious)
                        WHERE  NRowsPrevious = 100) O

Оба полагаются на ограничение, указанное в вопросе о том, что на пользователя не более одной записи в день.

Ответ 11

Я использовал простое математическое свойство, чтобы определить, кто последовательно обращается к сайту. Это свойство состоит в том, что вы должны иметь разницу в день между первым доступом и последним временем, равным количеству записей в вашем журнале таблицы доступа.

Вот SQL script, который я тестировал в Oracle DB (он должен работать и в других БД):

-- show basic understand of the math properties 
  select    ceil(max (creation_date) - min (creation_date))
              max_min_days_diff,
           count ( * ) real_day_count
    from   user_access_log
group by   user_id;


-- select all users that have consecutively accessed the site 
  select   user_id
    from   user_access_log
group by   user_id
  having       ceil(max (creation_date) - min (creation_date))
           / count ( * ) = 1;



-- get the count of all users that have consecutively accessed the site 
  select   count(user_id) user_count
    from   user_access_log
group by   user_id
  having   ceil(max (creation_date) - min (creation_date))
           / count ( * ) = 1;

Подготовка таблицы script:

-- create table 
create table user_access_log (id           number, user_id      number, creation_date date);


-- insert seed data 
insert into user_access_log (id, user_id, creation_date)
  values   (1, 12, sysdate);

insert into user_access_log (id, user_id, creation_date)
  values   (2, 12, sysdate + 1);

insert into user_access_log (id, user_id, creation_date)
  values   (3, 12, sysdate + 2);

insert into user_access_log (id, user_id, creation_date)
  values   (4, 16, sysdate);

insert into user_access_log (id, user_id, creation_date)
  values   (5, 16, sysdate + 1);

insert into user_access_log (id, user_id, creation_date)
  values   (6, 16, sysdate + 5);

Ответ 12

Что-то вроде этого?

select distinct userid
from table t1, table t2
where t1.UserId = t2.UserId 
  AND trunc(t1.CreationDate) = trunc(t2.CreationDate) + n
  AND (
    select count(*)
    from table t3
    where t1.UserId  = t3.UserId
      and CreationDate between trunc(t1.CreationDate) and trunc(t1.CreationDate)+n
   ) = n

Ответ 13

declare @startdate as datetime, @days as int
set @startdate = cast('11 Jan 2009' as datetime) -- The startdate
set @days = 5 -- The number of consecutive days

SELECT userid
      ,count(1) as [Number of Consecutive Days]
FROM UserHistory
WHERE creationdate >= @startdate
AND creationdate < dateadd(dd, @days, cast(convert(char(11), @startdate, 113)  as datetime))
GROUP BY userid
HAVING count(1) >= @days

Заявление cast(convert(char(11), @startdate, 113) as datetime) удаляет временную часть даты, поэтому мы начинаем в полночь.

Я бы предположил, что столбцы creationdate и userid индексируются.

Я только понял, что это не скажет вам всех пользователей и их полные последовательные дни. Но скажу вам, какие пользователи будут посещать определенное количество дней с даты вашего выбора.

Пересмотренное решение:

declare @days as int
set @days = 30
select t1.userid
from UserHistory t1
where (select count(1) 
       from UserHistory t3 
       where t3.userid = t1.userid
       and t3.creationdate >= DATEADD(dd, DATEDIFF(dd, 0, t1.creationdate), 0) 
       and t3.creationdate < DATEADD(dd, DATEDIFF(dd, 0, t1.creationdate) + @days, 0) 
       group by t3.userid
) >= @days
group by t1.userid

Я проверил это, и он будет запрашивать для всех пользователей и всех дат. Он основан на решение Spencer 1st (joke?), но мои работы.

Обновление: улучшена обработка даты во втором решении.

Ответ 14

Это должно делать то, что вы хотите, но у меня недостаточно данных для проверки эффективности. Извилистый материал CONVERT/FLOOR состоит в том, чтобы вырезать временную часть из поля datetime. Если вы используете SQL Server 2008, вы можете использовать CAST (x.CreationDate AS DATE).

DECLARE @Range as INT
SET @Range = 10

SELECT DISTINCT UserId, CONVERT(DATETIME, FLOOR(CONVERT(FLOAT, a.CreationDate)))
  FROM tblUserLogin a
WHERE EXISTS
   (SELECT 1 
      FROM tblUserLogin b 
     WHERE a.userId = b.userId 
       AND (SELECT COUNT(DISTINCT(CONVERT(DATETIME, FLOOR(CONVERT(FLOAT, CreationDate))))) 
              FROM tblUserLogin c 
             WHERE c.userid = b.userid 
               AND CONVERT(DATETIME, FLOOR(CONVERT(FLOAT, c.CreationDate))) BETWEEN CONVERT(DATETIME, FLOOR(CONVERT(FLOAT, a.CreationDate))) and CONVERT(DATETIME, FLOOR(CONVERT(FLOAT, a.CreationDate)))[email protected]) = @Range)

Создание script

CREATE TABLE [dbo].[tblUserLogin](
    [Id] [int] IDENTITY(1,1) NOT NULL,
    [UserId] [int] NULL,
    [CreationDate] [datetime] NULL
) ON [PRIMARY]

Ответ 15

Тонкая настройка бина. Возможно, вам придется усекать дату перед группировкой, чтобы считать только один вход в день...

SELECT UserId from History 
WHERE CreationDate > ( now() - n )
GROUP BY UserId, 
DATEADD(dd, DATEDIFF(dd, 0, CreationDate), 0) AS TruncatedCreationDate  
HAVING COUNT(TruncatedCreationDate) >= n

EDITED использовать DATEADD (dd, DATEDIFF (dd, 0, CreationDate), 0) вместо преобразования (char (10), CreationDate, 101).

@IDisposable Я искал использовать datepart раньше, но мне было слишком ленив, чтобы найти синтаксис, поэтому я решил, что я использую вместо этого конвертировать. Я знаю, что это оказало значительное влияние. Спасибо! теперь я знаю.

Ответ 16

Спенсер почти сделал это, но это должен быть рабочий код:

SELECT DISTINCT UserId
FROM History h1
WHERE (
    SELECT COUNT(*) 
    FROM History
    WHERE UserId = h1.UserId AND CreationDate BETWEEN h1.CreationDate AND DATEADD(d, @n-1, h1.CreationDate)
) >= @n

Ответ 17

Сверху моей головы, MySQLish:

SELECT start.UserId
FROM UserHistory AS start
  LEFT OUTER JOIN UserHistory AS pre_start ON pre_start.UserId=start.UserId
    AND DATE(pre_start.CreationDate)=DATE_SUB(DATE(start.CreationDate), INTERVAL 1 DAY)
  LEFT OUTER JOIN UserHistory AS subsequent ON subsequent.UserId=start.UserId
    AND DATE(subsequent.CreationDate)<=DATE_ADD(DATE(start.CreationDate), INTERVAL 30 DAY)
WHERE pre_start.Id IS NULL
GROUP BY start.Id
HAVING COUNT(subsequent.Id)=30

Неподтвержденный и почти наверняка нуждается в некотором преобразовании для MSSQL, но я думаю, что даю некоторые идеи.

Ответ 18

Как насчет использования таблиц Tally? Это следует за более алгоритмическим подходом, а план выполнения - легкий. Заполните таблицу tallyTable цифрами от 1 до "MaxDaysBehind", которые вы хотите отсканировать в таблице (т.е. 90 будет выглядеть 3 месяца назад и т.д.).

declare @ContinousDays int
set @ContinousDays = 30  -- select those that have 30 consecutive days

create table #tallyTable (Tally int)
insert into #tallyTable values (1)
...
insert into #tallyTable values (90) -- insert numbers for as many days behind as you want to scan

select [UserId],count(*),t.Tally from HistoryTable 
join #tallyTable as t on t.Tally>0
where [CreationDate]> getdate()[email protected] and 
      [CreationDate]<getdate()-t.Tally 
group by [UserId],t.Tally 
having count(*)>[email protected]

delete #tallyTable

Ответ 19

предполагая схему, которая выглядит следующим образом:

create table dba.visits
(
    id  integer not null,
    user_id integer not null,
    creation_date date not null
);

это приведет к удалению смежных диапазонов из последовательности дат с пробелами.

select l.creation_date  as start_d, -- Get first date in contiguous range
    (
        select min(a.creation_date ) as creation_date 
        from "DBA"."visits" a 
            left outer join "DBA"."visits" b on 
                   a.creation_date = dateadd(day, -1, b.creation_date ) and 
                   a.user_id  = b.user_id 
            where b.creation_date  is null and
                  a.creation_date  >= l.creation_date  and
                  a.user_id  = l.user_id 
    ) as end_d -- Get last date in contiguous range
from  "DBA"."visits" l
    left outer join "DBA"."visits" r on 
        r.creation_date  = dateadd(day, -1, l.creation_date ) and 
        r.user_id  = l.user_id 
    where r.creation_date  is null