feat: Support retry for failed downloading trigger about kubespider

[ljtnono]

cc @ljtnono 大佬有兴趣试试吗？

这两天放假忙着搬家，有时间我看看

[richardli1598]

cc @ljtnono 大佬有兴趣试试吗？

[ljtnono]

@richardli1598

还没很熟悉代码，有一些问题：
1、涉及到下载的代码是否只有core.download_trigger#download_file这个函数里面的handle_xx_download几个分支处理？
2、如果只涉及到1中的那处代码修改，那么有一个思路就是写一个通用的重试装饰器，这个实现应该简单。实现完了之后我该测试哪几种下载方式？就TORRENT、MAGNET、GENERAL这三种方式吗？

[qingchoulove]

1、downloading trigger是只有这三个分支需要处理。
2、因为每个download provider支持的下载方式都不同，最好是都覆盖一下。

现有实现core.download_trigger#download_file 会有几个调用上游，core.webhook_server.download_handler、 core.pt_server.PTServer.trigger_download_tasks和core.period_server.PeriodServer.run_single_provider。
这几个上游core.period_server.PeriodServer.run_single_provider是有重试机制的，其余两个没有。
大佬实现时也考虑下，PeriodServer和PTServer重试是否可以统一。webhook_server如果当前线程重试，会不会block请求导致上游http调用超时，还是webhook_server重试可以在客户端处理。

[ljtnono]

@qingchoulove
按照我的处理，我只是在下载出现异常时进行重试。如果一个请求调用webhook_server的API超时可能是两种情况：
一种是建立连接时超时，这个是调用者需要考虑的问题，与重试无关。
还有一种就是webhook_server与客户端建立了连接，但是webhook_server迟迟没有响应给客户端导致超时。在这个下载场景中，如果连接资源服务器，资源服务器迟迟没有响应则会导致多次重试并最终导致客户端调用超时。可能会出现的场景是：webhook_server里面与资源服务器长时间无法建立连接导致多次重试超时。我看了一下代码逻辑，本身download_file就不会捕获连接超时异常。我的实现是针对某个异常进行重试，这里需求好像有点不明确。是产生连接超时时进行重试，还是对于下载中断这种情况进行重试？

[ljtnono]

我的思路大概是这个样子的：

utils.helper.py:

def retry(attempt_times=3, delay=1, exception=Exception):
    """
    try serval times to invoke the target method.

    params:
        attempt_times: The number of attempts.
        delay: The time between each attempt, time unit is second.
        exception: The exception to catch while invoking the method, default Exception
    """
    def decorator(function):
        @functools.wraps(function)
        def retry_handle(*args, **kwargs):
            total_attempt_times = 1
            while total_attempt_times <= attempt_times:
                try:
                    return function(*args, **kwargs)
                except exception:
                    time.sleep(delay)
                    total_attempt_times += 1
        return retry_handle
    return decorator

core.download_trigger.py:

@retry(delay=0.3)
def handle_torrent_download(self, url: str, path: str, downloader_list: list, extra_param=None) -> TypeError:

@retry(delay=0.3)
def handle_magnet_download(self, url, path, downloader_list=None, extra_param=None) -> TypeError:

@retry(delay=0.3)
def handle_general_download(self, url, path, downloader_list=None, extra_param=None) -> TypeError:

[ljtnono]

@qingchoulove core.period_server.PeriodServer.run_single_provider 这个我看了半天没明白重试机制在哪？另外我这个实现应该都是统一的吧。

[qingchoulove]

PeriodServer 执行是异步化的，执行和重试都在core.period_server.PeriodServer.run_consumer。
大佬的思路没问题，非常感谢大佬贡献。

[ljtnono]

@qingchoulove 嗯，看明白了，有一个队列一直在重复执行。