Strafverfolgungsbehörden sind auf allen Ebenen tätig, einschließlich der lokalen Regierungen, der Kreise, der Bundesstaaten, des Landes und sogar der multinationalen oder internationalen. Die Zuständigkeit für die Strafverfolgung wird durch Bundes- oder Landesgesetze innerhalb eines Landes und durch internationale Verträge oder Vereinbarungen für multinationale oder internationale Behörden bestimmt. In vielen Fällen sind mehrere Behörden gleichzeitig zuständig; eine der Behörden ist jedoch im Allgemeinen befugt, sich die Autorität der anderen Strafverfolgungsbehörden anzueignen.
In den meisten Ländern gibt es lokale Strafverfolgungsbehörden sowie nationale oder bundesstaatliche Behörden. In den Vereinigten Staaten zum Beispiel hat jeder Bundesstaat eine Vielzahl von Strafverfolgungsbehörden, wie eine Stadt- oder Stadtpolizeibehörde, Bezirks-Sheriffs-Abteilungen und Staatspolizei. Normalerweise hat die Stadtpolizei die Zuständigkeit innerhalb der gesetzlichen Grenzen der Stadt, während der Sheriff Angelegenheiten außerhalb der Grenzen der Stadt, aber innerhalb des Landkreises behandelt. Die Staatspolizei behält oft die Zuständigkeit für alle staatlichen Straßen, obwohl sie technisch gesehen die Zuständigkeit für den gesamten Staat haben kann, in dem sie sie ausüben möchten. Die staatliche Gesetzgebung in jedem Staat bestimmt die Zuständigkeit für die Strafverfolgung innerhalb ihres Staates.
Die bundesstaatliche oder nationale Strafverfolgungsgerichtsbarkeit wird üblicherweise durch eine Verfassung oder den nationalen Gesetzgeber bestimmt. In einigen Fällen bearbeitet die nationale Strafverfolgungsbehörde schwerwiegende Angelegenheiten, die von lokalen Behörden an sie verwiesen werden, wie beispielsweise in Australien. In den Vereinigten Staaten sind die Strafverfolgungsbehörden des Bundes mit der Untersuchung von Straftaten beauftragt, die eine staatenübergreifende Komponente haben. Die Drug Enforcement Agency (DEA) zum Beispiel untersucht große Drogenhandelsoperationen, während das Federal Bureau of Investigation (FBI) Banküberfälle und Entführungen untersucht, wenn das Opfer über Staatsgrenzen hinweg transportiert wird.
Die internationale Strafverfolgungsgerichtsbarkeit ist häufig das Ergebnis formeller Verträge oder informeller Zusammenarbeit zwischen vielen Ländern. Häufig ist die Rolle einer internationalen Strafverfolgungsbehörde die einer Clearingstelle für Informationen. So fungiert beispielsweise die Internationale Kriminalpolizeiliche Organisation (INTERPOL) als zentrale Informationsquelle für grenzüberschreitende strafrechtliche Ermittlungen wie internationale Geldwäsche oder Terrorismus. INTERPOL arbeitet nach einer Verfassung, an die sich die Mitgliedsstaaten jederzeit halten.
In einigen Fällen wird die Gerichtsbarkeit der Strafverfolgungsbehörden von mehr als einer Behörde geteilt. Manchmal können Zuständigkeitsfragen kompliziert werden und die Ermittlung und Verfolgung von Straftaten tatsächlich behindern. In den Vereinigten Staaten gibt es eine Reihe von Bereichen, in denen sich eine Strafverfolgungsbehörde von Stämmen, Staaten und Bundesbehörden für ein Verbrechen auf die Gerichtsbarkeit berufen könnte. Manchmal wird die Angelegenheit durch eine Vereinbarung zwischen den Behörden gelöst, während in anderen Fällen ein Angeklagter vor mehr als einem Gericht wegen derselben Straftat angeklagt wird.