23 Commits (9eaa7be4c8a4af45fd7b4729c9b8f7bedaafb759)

 

Alle Branches   

Suchen

Autor	SHA1	Nachricht	Datum
JustAnotherArchivist	9eaa7be4c8	Python 3.7 compatibility	vor 4 Jahren
JustAnotherArchivist	9cff6bd5c1	Only open a WARC file when necessary to avoid producing empty WARCs at the end	vor 4 Jahren
JustAnotherArchivist	21cf784102	Use setuptools_scm for versioning	vor 4 Jahren
JustAnotherArchivist	ab22966fef	Add to log which item a message is coming from	vor 4 Jahren
JustAnotherArchivist	6fafd32685	Error when the retries are exceeded	vor 4 Jahren
JustAnotherArchivist	8647d6b396	Use f-strings instead of str.format	vor 4 Jahren
JustAnotherArchivist	5008e6e8cd	Deduplicate items	vor 4 Jahren
JustAnotherArchivist	46c95e2157	Disable decoding the response content chardet can be very slow (https://github.com/chardet/chardet/issues/29 https://github.com/psf/requests/issues/2359) and the decoding may be unnecessary if it's binary content.	vor 4 Jahren
JustAnotherArchivist	91cd20f567	Version 0.1.3	vor 5 Jahren
JustAnotherArchivist	85f6f7bd82	Make qwarc.utils.handle_response_limit_error_retries more useful by passing the deferring handler as an argument	vor 5 Jahren
JustAnotherArchivist	ad22a2327a	Support adding headers to individual requests	vor 5 Jahren
JustAnotherArchivist	67076f964c	Add support for POST requests	vor 5 Jahren
JustAnotherArchivist	57764eb2b0	Version 0.1.2	vor 5 Jahren
JustAnotherArchivist	2d52e78d85	Fix reference to aiohttp.CientError	vor 5 Jahren
JustAnotherArchivist	0f107e988d	Version 0.1.1	vor 5 Jahren
JustAnotherArchivist	c1574a06c9	Fix sleep task type	vor 5 Jahren
JustAnotherArchivist	e0ca88c807	Fix reference to get_rss	vor 5 Jahren
JustAnotherArchivist	984d28ede0	Fix type of --memorylimit, --disklimit, and --warcsplit values	vor 5 Jahren
JustAnotherArchivist	8a8935810d	Fix references to memory and disk space check methods	vor 5 Jahren
JustAnotherArchivist	1c8983fc1e	Version 0.1.0	vor 5 Jahren
JustAnotherArchivist	be5673cfbf	Add record deduplication within a process	vor 5 Jahren
JustAnotherArchivist	43f1b5e06e	Add LICENSE and README	vor 5 Jahren
JustAnotherArchivist	e892a6b6a7	Initial commit	vor 5 Jahren