Redis

Das in C geschriebene Redis (REmote DIctionary Server) ist single-threaded, arbeitet also immer nur auf einem einzigen CPU-Kern. Der einfachste Weg, den Gesamtdurchsatz von Redis zu erhöhen, ist das Hinzufügen von Read-only Replika-Shards oder Slave-Redis Servern.

„Redis Server“ oder „Shard“ ist das nichts anderes als ein Redis-Prozess, der auf einem Knoten läuft. Mehrere Redis-Prozesse können auf derselben Maschine auf verschiedenen Ports laufen.

Redis unterstützt die Replikation von Daten von einem Redis-Shard zu einem anderen Shard. Ein Leader-Shard repliziert kontinuierlich an einen oder mehrere Follower (Leader-Follower-Methode). Um den Durchsatz zu erhöhen, muss die Applikation die Verbindung von einem Replika-Prozess hin zu Replika-Shards wechseln.

Aktuelle Versionen finden sich im Remi-Repo.

Redis 4 führte das Modulsystem sowie den „Memory Doctor“ ein.

Begriffe:
  • AOF: Append Only File (Persistenz). AOF ist eigentlich eine Persistenztechnik, bei der eine RDB-Datei einmal erstellt wird und weitere Daten nach und nach an sie angehängt werden.

  • RDB: Redis Database (Persistenz). Die RDB-Datei ist ein Dump aller Benutzerdaten, die in einem internen, komprimierten Serialisierungsformat zu einem bestimmten Zeitpunkt gespeichert sind und für die Point-in-Time-Wiederherstellung (Wiederherstellung ab einem bestimmten Zeitpunkt) verwendet werden.

Links:

EOL:

Ver

Release

EOL

6.2

August 2021

February 28 2023

6.0

May 2020

May 31 2022

5.6

April 2020

October 31 2021

5.4

December 2018

December 31 2020

5.2

June 2018

December 31 2019

5.0

November 2017

May 31 2019

4.5

May 2017

November 30 2018

Installation und Konfiguration

dnf -y install redis
systemctl enable --now redis.service
echo vm.overcommit_memory=1 >> /etc/sysctl.conf
echo fs.file-max=100000 >> /etc/sysctl.conf
echo net.core.somaxconn=1024 >> /etc/sysctl.conf
sysctl -p

Auf einer dedizierten Redis-Maschine:

echo vm.swappiness=0 >> /etc/sysctl.conf

Im Kernel „Transparent Huge Pages“ deaktivieren:

mkdir /etc/tuned/no-thp

cat > /etc/tuned/no-thp/tuned.conf << 'EOF'
[main]
include=virtual-guest

[vm]
transparent_hugepages=madvise
EOF

tuned-adm profile no-thp

redis-cli

Beispiele:

redis-cli
redis-cli -h hostname -p port
redis-cli -s /var/run/redis/redis.sock
127.0.0.1:6379> ping

127.0.0.1:6379> set mykey "myvalue"
127.0.0.1:6379> get mykey

127.0.0.1:6379> info
127.0.0.1:6379> info commandstats
127.0.0.1:6379> info keyspace
127.0.0.1:6379> info server

127.0.0.1:6379> exit

Alle Keys auslesen:

redis-cli keys '*'

Redis bei der Arbeit zuschauen:

redis-cli monitor

Redis benchmarken:

redis-benchmark -t set -n 1000000 -r 100000000 -l

Redis Memory-Zustand anschauen:

redis-cli memory doctor

Redis-Datenbank leeren:

redis-cli flushdb

Redis räumt den Cache nicht auf

VM mit 1 GB RAM und Redis 3. Mehrere Prozesse schreiben laufend und parallel neue Keys inkl. TTL in Redis, zudem wird Redis zusätzlich gebenchmarked. Redis ist also unter Vollast. Die Keys werden in dem Zeitraum von keiner Applikation gelesen. save ist nach Standard aktiviert. VM läuft voll, Redis „evicted“ die Keys aber nicht - redis-cli info | grep evicted bleibt immer auf 0. Auch ein nachträgliches Lesen der Keys hilft nicht. Woran liegt das? An der Schreiblast?

Nein. Schuld ist maxmemory 0: Die Einstellung sorgt dafür, dass die Maschine bis an die Schmerzgrenze vollgeschrieben wird, also inklusive Swap-Space. Erst wenn der Kernel kein Byte mehr freischaufeln kann, würde Redis mit der Key-Eviction beginnen. Das passiert aber nie: Ist save konfiguriert, wird Redis schon vorher wegen Can't save in background: fork: Cannot allocate memory keine neuen Schreibvorgänge mehr annehmen. Ist save abgeschaltet, wird Redis vom OOM gekillt.

Die Lösung besteht also darin, maxmemory immer auf einen Wert zu begrenzen, z.B. auf 90% des physischen Hauptspeichers:

maxmemory 900M

Diese Einstellungen haben dagegen keinen Einfluss auf den Start der Key-Eviction:

maxmemory-policy allkeys-lru
maxmemory-samples 5
hz 10
save ...

Built on 2022-06-03